Como usar o seletor de exemplo baseado em comprimento no LangChain?

Como Usar O Seletor De Exemplo Baseado Em Comprimento No Langchain



LangChain é usado para construir modelos de linguagem natural que podem ser usados ​​para conversar com humanos em seu idioma, como inglês, etc. O desenvolvedor usa vários conjuntos de dados ou dados de exemplo para treinar esses modelos, e não é possível usar todos esses exemplos todos A Hora. Portanto, seletores de exemplo são usados ​​para escolher o conjunto de dados ou exemplo com base em vários fatores e o comprimento é um desses seletores.

Esta postagem demonstrará o processo de uso do seletor de exemplo de seleção por comprimento no LangChain.

Como usar o seletor de exemplo baseado em comprimento no LangChain?

Seletores de exemplo são usados ​​para selecionar os dados ou exemplos a serem usados ​​para treinar os modelos. O baseado no comprimento é o processo de escolha desses exemplos usando seu comprimento. O exemplo de seleção por comprimento é usado principalmente quando o comprimento do prompt excede o comprimento do contexto.







Para aprender como usar o seletor de exemplo select-by-length no LangChain, basta seguir o seguinte guia:



Passo 1: Instalar LangChain



Em primeiro lugar, inicie o processo de uso do seletor de exemplo select-by-length instalando a estrutura LangChain:





pip instalar langchain

Etapa 2: Construindo o Seletor de Exemplo



Depois disso, basta importar as bibliotecas para configurar o seletor de exemplos com vários exemplos e métodos como “ exemplo_prompt ',' exemplo_seletor ', e ' prompt_dinâmico ”:

de cadeia longa. Comandos importar Modelo de prompt
de cadeia longa. Comandos importar Modelo FewShotPrompt
de cadeia longa. Comandos . exemplo_seletor importar LengthBasedExampleSelector

exemplos = [
{ 'pegar' : 'pequeno' , 'publicar' : 'grande' } ,
{ 'pegar' : 'odiar' , 'publicar' : 'amor' } ,
{ 'pegar' : 'doente' , 'publicar' : 'bem' } ,
{ 'pegar' : 'encolher' , 'publicar' : 'crescer' } ,
{ 'pegar' : 'macio' , 'publicar' : 'duro' } ,
]
exemplo_prompt = Modelo de prompt (
variáveis_de_entrada = [ 'pegar' , 'publicar' ] ,
modelo = 'Entrada: {obter} \n Saída: {postagem}' ,
)
# Configure o seletor de exemplo baseado em comprimento, fornecendo ou limitando o comprimento máximo da consulta
exemplo_seletor = LengthBasedExampleSelector (
exemplos = exemplos ,
exemplo_prompt = exemplo_prompt ,
comprimento máximo = 25 ,
)
# Configure dynamic_prompt usando o método FewShotPrompttemplate() para definir o modelo da consulta
prompt_dinâmico = Modelo FewShotPrompt (
exemplo_seletor = exemplo_seletor ,
exemplo_prompt = exemplo_prompt ,
prefixo = 'Quero pegar o antônimo de cada objeto' ,
sufixo = 'Consulta: {estilo} \n Resposta:' ,
variáveis_de_entrada = [ 'estilo' ] ,
)

Etapa 3: usando entradas pequenas

Agora, teste o seletor de exemplo usando um pequeno prompt de apenas uma palavra para extrair o modelo na tela:

imprimir ( prompt_dinâmico. formatar ( estilo = 'grande' ) )

Etapa 4: usando entrada longa

Depois disso, basta usar um prompt maior ou consulta com várias palavras e atribuí-lo ao “ string_longa ' variável:

string_longa = 'grande e enorme e maciço e grande e gigantesco e alto e mais maior do que qualquer outra consulta'
imprimir ( prompt_dinâmico. formatar ( estilo = string_longa ) )

Etapa 5: Adicionando Exemplo ao Seletor de Exemplo

A próxima etapa é usada para adicionar o exemplo ao seletor de exemplo usando o método dynamic_prompt():

novo_exemplo = { 'pegar' : 'grande' , 'publicar' : 'pequeno' }
prompt_dinâmico. exemplo_seletor . add_example ( novo_exemplo )
imprimir ( prompt_dinâmico. formatar ( estilo = 'entusiasmado' ) )

Trata-se de usar o seletor de exemplo baseado em comprimento em LangChain.

Conclusão

Para usar o seletor de exemplo selecionado por comprimento em LangChain, instale a estrutura LangChain para importar as bibliotecas para construir o seletor de exemplo. Depois disso, use um prompt menor para verificar a saída usando o seletor de exemplo baseado em comprimento e, em seguida, use um prompt mais longo para obter o exemplo mais apropriado. O usuário também pode usar o seletor de exemplo para adicionar outro exemplo usando o método dynamic_prompt(). Esta postagem ilustrou o processo de uso do seletor de exemplo de seleção por comprimento no LangChain.