Como adicionar estado de memória em cadeia usando LangChain?

Como Adicionar Estado De Memoria Em Cadeia Usando Langchain



LangChain permite que os desenvolvedores criem modelos de bate-papo que podem conversar com humanos usando linguagens naturais. Para ter uma conversa eficaz, o modelo precisa ter uma memória de onde o contexto da conversa está sendo armazenado. Os modelos LangChain podem armazenar as mensagens de chat como observações para que a saída possa estar sempre dentro do contexto da conversa

Este guia ilustrará o processo de carregamento de cadeias do LangChain Hub.

Como adicionar estado de memória em cadeia usando LangChain?

O estado da memória pode ser usado para inicializar as cadeias, pois pode se referir ao valor recente armazenado nas cadeias que será usado ao retornar a saída. Para aprender o processo de adição de um estado de memória em cadeias usando a estrutura LangChain, basta seguir este guia fácil:







Etapa 1: instalar módulos

Primeiramente, entre no processo instalando o framework LangChain com suas dependências usando o comando pip:



pip instalar langchain



Instale também o módulo OpenAI para obter suas bibliotecas que podem ser usadas para adicionar estado de memória na cadeia:





pip instalar openai

Obtenha a chave API da conta OpenAI e configurar o ambiente usando-o para que as cadeias possam acessá-lo:



importar os

importar Obter passagem

os . aproximadamente [ 'OPENAI_API_KEY' ] = Obter passagem . Obter passagem ( 'Chave de API OpenAI:' )

Esta etapa é importante para que o código funcione corretamente.

Etapa 2: importar bibliotecas

Após configurar o ambiente, basta importar as bibliotecas para adicionar o estado da memória como LLMChain, ConversationBufferMemory e muito mais:

de cadeia longa. correntes importar Cadeia de conversação

de cadeia longa. memória importar ConversationBufferMemory

de cadeia longa. chat_models importar ChatOpenAI

de cadeia longa. correntes . llm importar LLMChain

de cadeia longa. Comandos importar Modelo de prompt

Etapa 3: Construindo Cadeias

Agora, basta construir cadeias para o LLM usando o método OpenAI() e o modelo do prompt usando a consulta para chamar a cadeia:

bater papo = ChatOpenAI ( temperatura = 0 )

prompt_template = 'Escreva uma piada {estilo}'

llm_chain = LLMChain ( llm = bater papo , incitar = PromptTemplate. Do modelo ( prompt_template ) )

llm_chain ( entradas = { 'estilo' : 'brega' } )

O modelo exibiu a saída usando o modelo LLM conforme mostrado na captura de tela abaixo:

Etapa 4: adicionar estado de memória

Aqui vamos adicionar o estado da memória na cadeia usando o método ConversationBufferMemory() e executar a cadeia para obter 3 cores do arco-íris:

conversação = Cadeia de conversação (

llm = bater papo ,

memória = ConversationBufferMemory ( )

)

conversação. correr ( 'dê brevemente as 3 cores do arco-íris' )

O modelo exibiu apenas três cores do arco-íris e o contexto fica armazenado na memória da cadeia:

Aqui estamos executando a cadeia com um comando ambíguo como “ outros 4? ”então o próprio modelo obtém o contexto da memória e exibe as cores restantes do arco-íris:

conversação. correr ( 'outros 4?' )

O modelo fez exatamente isso, pois entendeu o contexto e retornou as quatro cores restantes do conjunto do arco-íris:

Trata-se de carregar cadeias do LangChain Hub.

Conclusão

Para adicionar memória em cadeias usando o framework LangChain, basta instalar módulos para configurar o ambiente de construção do LLM. Depois disso, importe as bibliotecas necessárias para construir as cadeias no LLM e adicione o estado da memória a elas. Depois de adicionar o estado da memória à cadeia, basta dar um comando à cadeia para obter a saída e depois dar outro comando dentro do contexto do anterior para obter a resposta correta. Esta postagem elaborou o processo de adição de um estado de memória em cadeias usando a estrutura LangChain.