Como interagir com LLMs usando LangChain?

Como Interagir Com Llms Usando Langchain



Large Language Models ou LLMs são um tipo poderoso de algoritmo de rede neural para construir chatbots que buscam dados usando comandos em linguagens naturais. Os LLMs permitem que máquinas/computadores entendam melhor a linguagem natural e gerem linguagem como os humanos. O módulo LangChain também funciona para construir modelos de PNL. No entanto, não possui LLM, mas permite a interação com diversos LLMs.

Este guia explicará o processo de interação com modelos de linguagem grande usando LangChain.







Como interagir com LLMs usando LangChain?

Para interagir com LLMs usando LangChain, basta seguir este guia passo a passo simples com exemplos:



Instale módulos para interagir com LLMs



Antes de iniciar o processo de interação com LLMs utilizando LangChain, instale o “ cadeia de idiomas ”módulo usando o seguinte código:





pip instalar cadeia de idiomas



Para instalar a estrutura OpenAI, use sua chave API para interagir com LLMs por meio do seguinte código:

pip instalar aberto



Agora, importe “ os ' e ' Obter passagem ”para usar a chave da API OpenAI após executar o código:



importe-nos
importar getpass

os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'Chave de API OpenAI:' )



Ligando para LLM

Importe a biblioteca OpenAI do módulo LangChain para atribuir sua função ao “ llm ' variável:

de langchain.llms importar OpenAI

llm = OpenAI ( )


Depois disso, basta ligar para “ llm ”Função e a consulta de prompt como parâmetro:

llm ( 'Conte-me uma piada' )



Gere vários textos usando LLMs

Use o método generate() com vários prompts em linguagem natural para gerar o texto do LLM e armazená-los no “ llm_resultado ' variável:

llm_result = llm.generate ( [ 'Eu quero ouvir uma piada' , 'Escreva um poema' ] * quinze )


Obtenha o comprimento dos objetos armazenados no “ llm_resultado ”variável usando a função generate():

apenas ( llm_result.generações )


Basta chamar a variável com o número de índice dos objetos:

llm_result.generações [ 0 ]


A captura de tela a seguir exibe o texto armazenado no “ llm_resultado ”variável em seu índice 0 gerando a piada:


Use o método Generations() com parâmetro index -1 para gerar o poema colocado na variável llm_result:

llm_result.generações [ - 1 ]


Basta exibir a saída gerada na variável de resultado para obter as informações específicas do provedor que são geradas no LLM anterior usando a função gerada:

llm_result.llm_output



Trata-se de interagir com LLMs usando a estrutura LangChain para gerar linguagem natural.

Conclusão

Para interagir com grandes modelos de linguagem usando LangChain, basta instalar estruturas como LangChain e OpenAI para importar bibliotecas para LLMs. Depois disso, forneça a chave da API OpenAI para usar como LLMs para compreender ou gerar a linguagem natural. Use o LLM para o prompt de entrada em linguagem natural e depois chame-o para gerar texto com base no comando. Este guia explicou o processo de interação com modelos de linguagem grande usando módulos LangChain.