Sintaxe:
Existe uma variedade de serviços que o Hugging Face fornece, mas um de seus serviços amplamente utilizados é o “API”. A API permite a interação da IA pré-treinada e modelos de linguagem grandes para diferentes aplicativos. Hugging Face fornece as APIs para diferentes modelos, conforme listado a seguir:
- Modelos de geração de texto
- modelos de tradução
- Modelos para a análise dos sentimentos
- Modelos para o desenvolvimento de agentes virtuais (chatbots inteligentes)
- Classificação e os modelos de regressão
Vamos agora descobrir o método para obter nossa API de inferência personalizada do Hugging Face. Para isso, primeiro temos que nos registrar no site oficial de Hugging Face. Junte-se a esta comunidade de Hugging Face inscrevendo-se neste site com suas credenciais.
Depois de obter uma conta no Hugging Face, agora precisamos solicitar a API de inferência. Para solicitar a API, acesse as configurações da conta e selecione o “Access Token”. Uma nova janela se abrirá. Selecione a opção “New Token” e, em seguida, gere o token fornecendo primeiro o nome do token e sua função como “WRITE”. Um novo token é gerado. Agora, devemos salvar este token. Até este ponto, temos nosso símbolo do Rosto Abraços. No próximo exemplo, veremos como podemos usar esse token para obter uma API de inferência.
Exemplo 1: como criar um protótipo com a API de inferência de rosto de abraço
Até agora, discutimos o método de como começar com o Hugging Face e inicializamos um token do Hugging Face. Este exemplo mostra como podemos usar esse token recém-gerado para obter uma API de inferência para um modelo específico (aprendizado de máquina) e fazer previsões por meio dele. Na página inicial do Hugging Face, selecione qualquer modelo com o qual deseja trabalhar e que seja relevante para o seu problema. Digamos que queremos trabalhar com a classificação de texto ou o modelo de análise de sentimento conforme o trecho a seguir da lista desses modelos:
Nós escolhemos o modelo de análise de sentimento deste modelo.
Depois de selecionar o modelo, aparecerá o cartão do modelo. Este cartão de modelo contém informações sobre os detalhes de treinamento do modelo e quais características o modelo possui. Nosso modelo é roBERTa-base, que é treinado nos 58 milhões de tweets para análise de sentimento. Este modelo tem três rótulos de classe principais e categoriza cada entrada em seus rótulos de classe relevantes.
Após a seleção do modelo, se selecionarmos o botão de implantação que está presente no canto superior direito da janela, abre-se um menu drop-down. A partir deste menu, precisamos selecionar a opção “Inference API”.
A API de inferência fornece uma explicação completa de como usar esse modelo específico com essa inferência e nos permite criar rapidamente o protótipo para o modelo de IA. A janela da API de inferência exibe o código escrito no script do Python.
Copiamos esse código e o executamos em qualquer IDE do Python. Usamos o Google Colab para isso. Depois de executar esse código no shell do Python, ele retorna uma saída que vem com a pontuação e a previsão do rótulo. Este rótulo e pontuação são dados de acordo com nossa entrada, uma vez que escolhemos o modelo de “análise de sentimento de texto”. Então, a entrada que damos ao modelo é uma sentença positiva e o modelo foi pré-treinado em três classes de rótulos: rótulo 0 implica negativo, rótulo1 implica neutro e o rótulo 2 é definido como positivo. Como nossa entrada é uma sentença positiva, a previsão de pontuação do modelo é maior do que os outros dois rótulos, o que significa que o modelo previu a sentença como “positiva”.
importar solicitações deAPI_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
cabeçalhos = { 'Autorização' : 'Portador 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' }
def consulta ( carga útil ) :
resposta = solicitações de. publicar ( API_URL , cabeçalhos = cabeçalhos , json = carga útil )
retornar resposta. json ( )
saída = consulta ( {
'entradas' : 'Eu me sinto bem quando você está comigo' ,
} )
Saída:
Exemplo 2: Modelo de Sumarização por Inferência
Seguimos as mesmas etapas mostradas no exemplo anterior e criamos o protótipo do modelo de resumo de ônibus usando sua API de inferência de Hugging Face. O modelo de resumo é um modelo pré-treinado que resume todo o texto que damos a ele como entrada. Vá para a conta Hugging Face, clique no modelo na barra de menu superior e, em seguida, escolha o modelo relevante para o resumo, selecione-o e leia atentamente o cartão do modelo.
O modelo que escolhemos é um modelo BART pré-treinado e é ajustado com precisão ao conjunto de dados CNN dail mail. O BART é um modelo mais semelhante ao modelo BERT, que possui um codificador e um decodificador. Este modelo é eficaz quando é ajustado para tarefas de compreensão, resumo, tradução e geração de texto.
Em seguida, escolha o botão “implantação” no canto superior direito e selecione a API de inferência no menu suspenso. A API de inferência abre outra janela que contém o código e as instruções para usar este modelo com esta inferência.
Copie este código e execute-o em um shell Python.
O modelo retorna a saída que é o resumo da entrada que alimentamos a ele.
Conclusão
Trabalhamos na API Hugging Face Inference e aprendemos como podemos usar a interface programável desse aplicativo para trabalhar com os modelos de linguagem pré-treinados. Os dois exemplos que fizemos no artigo foram baseados principalmente nos modelos de PNL. A Hugging Face API pode fazer maravilhas se quisermos desenvolver um protótipo rápido, fornecendo a integração rápida de modelos de IA em nossos aplicativos. Resumindo, o Hugging Face tem soluções para todos os seus problemas, desde aprendizado por reforço até visão computacional.