Como conectar a OpenAI ao seu chatbot
Com a SendPulse, você pode conectar a OpenAI ao seu chatbot para fornecer aos seus usuários respostas automatizadas ainda mais proficientes e ajudá-los a resolver tarefas adicionais.
Vamos aprender como criar uma conta OpenAI e conectá-la ao seu chatbot e descobrir quais modelos de IA você pode usar e como treinar seu bot para resolver suas tarefas de negócios.
Introdução
O GPT (Transformador pré-treinado generativo) é um modelo de IA de terceira geração desenvolvido pela empresa OpenAI É uma rede neural de grande escala que você pode usar para gerar texto e código.
Existem quatro modelos principais que podem executar tarefas diferentes: analisar materiais de texto de vários níveis de dificuldade, fornecer respostas a perguntas, otimizar texto para tarefas de SEO e SMM, categorizar texto em tabelas, ajudar no brainstorming, editar e traduzir texto, trabalhar com código e tarefas matemáticas e conversas de suporte sobre qualquer tópico específico.
Para configurar o GPT e executar suas tarefas de negócios usando um chatbot, você precisa escolher um modelo e prompts – por exemplo, você pode adicionar respostas que transmitam sentimentos, limitar sua lista de perguntas ou tópicos e adicionar informações adicionais sobre sua empresa ou um exemplo do que você deseja receber em resposta.
Crie uma conta
Vá para OpenAI e crie uma conta. Clique em Inscrever-se, insira seu endereço de e-mail e clique em Continuar ou prossiga com sua conta do Google ou da Microsoft.
Se você digitou seu endereço de e-mail, digite uma senha na próxima janela. Você receberá um e-mail de confirmação em sua caixa de entrada. Clique em Verificar no e-mail e digite seu nome e o nome da sua organização.
Digite seu número de telefone e um código de confirmação será enviado a ele via SMS. Digite o código e faça login na sua conta.
Antes de escolher um número de telefone para usar, verifique a lista de países e territórios suportados.
Copie sua chave de API
No canto superior direito, clique em seu avatar e selecione “Gerenciar conta”.
Vá para a guia "Chaves de API", clique em Criar nova chave secreta e copie sua chave.
Você precisa salvar uma chave em seu dispositivo porque não pode copiar a mesma chave nesta página uma segunda vez. Se você perder a chave, precisará gerar uma nova.
Configure a integração
Insira sua chave de API
Escolha um bot e vá para “Configurações do bot” > “Integrações”. Ao lado de “OpenAI”, clique em Ativar.
Digite sua chave.
Escolha um modelo
Escolha qual modelo de IA usar para gerar respostas de bot.
Modelo | Descrição | Casos de uso recomendados |
Davinci | O modelo mais abrangente, porém caro e mais lento, pois trabalha com uma grande quantidade de dados. Ele pode executar as mesmas tarefas que outros modelos, mas requer menos prompts no campo “Instruções do bot”.
Use-o para executar tarefas em que seja necessário analisar o contexto mais profundamente e gerar textos ou códigos mais complexos. Além disso, você pode usá-lo para resolver problemas lógicos envolvendo causa e efeito. |
Analisar problemas complexos de intenção e causa e efeito, resumir e explicar e gerar código |
Curie | O modelo pode analisar texto, responder a perguntas diretas e fornecer pontos-chave.
Use-o para perguntas e respostas em chatbots. Por exemplo, no campo “Instrução para bot”, você pode inserir suas perguntas e respostas que o bot usará. |
Tradução, classificação complexa, análise de sentimento de texto e resumo |
Babbage | O modelo é bom em captar padrões de texto óbvios e usá-los como referências para gerar um novo texto.
Use-o para classificar informações e atribuir categorias. Para aplicações criativas, Babbage é capaz de entender a estrutura apenas o suficiente para criar enredos e títulos simples. |
Classificação moderada e classificação de pesquisa semântica |
Ada | O modelo mais rápido e mais barato. Use-o quando precisar analisar o texto mais rapidamente sem muitas nuances. | Análise de texto, classificação simples, correção de endereço e palavras-chave |
ChatGPT | Um modelo gpt-3.5-turbo treinado em conversação humana. Ele pode gerar respostas semelhantes às humanas, com um tom mais natural que outros modelos, e personalizar suas respostas baseado no tema e mensagens dos usuários anteriores. |
Gerando respostas para aplicativos de mensagens e assistentes virtuais e implementando sistemas de perguntas e respostas. Dando ao software uma interface de linguagem natural. Fornecendo tutoria em vários temas. Simulando personagens para video games e muito mais. |
ChatGPT (gpt-3.5-turbo-16k) | Mesmas capacidades do modelo gpt-3.5-turbo , mas com 4 vezes o comprimento de contexto. |
|
GPT-4 | O modelo mais avançado e recente da família ChatGPT, projetado para facilitar conversas multi-turno. O modelo também é útil para tarefas de turno único sem conversas. Disponível apenas para usuários que receberam acesso ao modelo pela OpenAI. | Geração de texto, e-mails e código, tradução, modelagem de personagens para jogos de vídeo, respondendo perguntas sobre um conjunto de documentos, trabalhando com interface do usuário e tutoria em vários assuntos. |
Modelo personalizado Fine-tuning* | Você pode treinar um dos modelos básicos usando seus dados e ferramentas fine-tuning fornecidas pela OpenAI e criar seu modelo original. | Gerando texto e código, recuperação de informações, análises sintáticas, análise de tom, e outras tarefas de aprendizado de máquina 一 comuns e personalizadas para as necessidades do seu negócio. |
*Apenas os modelos davinci
, curie
, ada,
e babbage
estão disponíveis para o fine-tuning. Para conectar um modelo personalizado no seu chatbot SendPulse, especifique um nome de modelo exclusivo na biblioteca OpenAI. O modelo personalizado está disponível com sua chave API para a conta correspondente.
Nesse campo, você também pode especificar um dos modelos de sistema OpenAI que não estão na lista padrão. A lista completa está disponível na documentação de OpenAI.
Você pode ver como usar esses modelos em “Exemplos” e “OpenAI Cookbook” e experimentar modelos em “Playground”.
Adicione um prompt ao bot
Os Modelos GPT podem desempenhar várias tarefas que vão de análises de texto complexas até gerar respostas em vários assuntos. Você precisa adicionar prompts para limitar certos assuntos que você não quer que o bot discuta, transformar seu bot em um personagem ou pessoa específica, ou adicionar sentimento ao texto ou informação sobre sua empresa.
Quando estiver criando um prompt, tenha dem mente as seguintes recomendações:
- Adicione o máximo possível de contexto possível em cada caso. Liste todas as instruções de interação do bot: especifique quais usuários irão entrar em contato com o seu bot e quando, quais detalhes devem ser incluídos nas respostas do bot e quais tópicos devem ser evitados. Dê ao seu modelo a tarefa de gerar diversos resultados assim você pode comparar e escolher aquele que se encaixa nas suas necessidades melhor.
- Mostre o que deseja receber usando exemplos. Por exemplo, se você deseja que seu modelo organize uma lista de itens por ordem alfabética ou classifique parágrafos por sentimento, liste suas consultas de exemplo, o formato de resultado esperado, ou o efeito que deseja alcançar. Se você precisa que o bot responda de um determinado jeito, forneça exemplos de perguntas e respostas.
- Forneça dados precisos e de alta qualidade. Verifique seus exemplos 一 seu modelo geralmente é inteligente o suficiente para identificar erros ortográficos básicos, mas também pode assumir que isso é intencional e os erros podem afetar a resposta. Se você deseja que seu modelo responda em um determinado idioma, especifique-o. Além disso, tente usar palavras em vez de figuras. Lembre-se de que a IA interpreta literalmente seus prompts.
- Personifique o modelo. Para ajudar seu modelo a responder como uma determinada pessoa ou personagem faria, descreva o que eles fazem, quais características possuem, seu tom de voz, vocabulário e outros aspectos da persona de seu assistente virtual.
- Teste o resultado e atualize seu prompt. Depois de configurar os prompts, certifique-se de testar o resultado, revisar os chats com os usuários e, se necessário, ajustar as instruções do bot adicionando ou removendo detalhes. Treine o modelo até obter os resultados desejados.
Leia mais: as seções “Design do Prompt” e “Organização do Prompt” . Observe que a OpenAI tem regras de moderação 一 saiba mais em sobre elas nas seções “Políticas de Uso” e “Moderação”.
Você pode testar modelos com diferentes prompts de bot usando a Comparação de Prompt.
Se você precisa de inspiração para os prompts de contexto, dê uma olhada nos seguintes exemplos: 160 Prompts de ChatGPT que você não pode deixar de experimentar em 2023. Você também pode usar ou adicionar seus próprios prompts no repositório GitHub: Prompts de ChatGPT Incríveis..
No campo “Instruções do bot”, forneça seus prompts de formato livre, seguindo as recomendações.
Observação: os modelos possuem limites diferentes de comprimento de contexto, que se refere à quantidade de tokens que você pode usar. Saiba mais na tabela de visão geral do modelo.
A AI analisa o texto em todos os idiomas e pode responder em um idioma que você especificar, mas interage melhor em inglês. Se você não especificar um idioma, o bot responderá em inglês por padrão.
Se você tiver alguma dúvida sobre como criar prompts de bot ou cenários possíveis, verifique as discussões existentes ou inicie uma nova na comunidade OpenAI.
Adicione um número de token
Um token é uma parte de uma palavra usada para o processamento de linguagem natural. Para texto em inglês, 1 token equivale a aproximadamente 4 caracteres ou 0,75 palavras. Para outros idiomas e cálculos mais precisos, você pode usar a calculadora da OpenAI.
No campo "Número máximo de tokens na resposta", especifique um número da última coluna.
Modelo | Número máximo de caracteres no campo "Instruções para o bot"* | Número máximo de tokens em uma resposta a um assinante* |
Сurie / Babbage /Ada / Fine-tuned | até 2048 | até 1024 |
Davinci / ChatGPT | até 4096 | até 2048 |
ChatGPT (gpt-3.5-turbo-16k) | até 16348 | até 8174 |
GPT-4 | até 8192 | até 4096 |
*Para cada solicitação, os tokens são contados nos seguintes locais: o campo "Bot Promt"; as últimas mensagens em um chat com um bot; a pergunta atual que um usuário faz a um bot; a resposta atual que um bot fornece a um usuário.
Se você usar a quantidade máxima de tokens no campo "Instruções para o bot", seus tokens totais podem exceder o limite da OpenAI. Como resultado, sua solicitação terminará com um erro e seu assinante não receberá uma resposta.
Nesses casos, você pode verificar o erro que apareceu como uma notificação no canto superior direito em sua conta da SendPulse: OpenAI: O comprimento máximo de contexto deste modelo é de 4097 tokens, no entanto, você solicitou 4131 tokens (2083 em sua instrução; 2048 para a conclusão). Por favor, reduza sua instrução ou o comprimento da conclusão
. Para resolvê-lo, reduza a quantidade de tokens no campo "Instruções para o bot" ou a quantidade de tokens em uma resposta.
Durante o primeiro registro, a OpenAI oferece US$ 18 dólares por 3 meses. Esse valor será deduzido quando você usar tokens. As taxas de token variam dependendo do modelo utilizado. Por exemplo, o modelo Davinci em ambiente real custa US$ 0,1200 por mil tokens, enquanto o modelo Ada em ambiente de teste custa US$ 0,0004.
Saiba mais: O que são tokens e como contá-los e sobre os planos de preços da OpenAI na seção de Preços.
Recursos de Uso
Quando você se integra à OpenAI, seu fluxo padrão será desativado para seu chatbot. Portanto, você precisa garantir que os usuários saibam que seu bot pode respondê-los. Por exemplo, adicione as diretrizes de comunicação do bot a um fluxo explicativo ou de boas-vindas que você adiciona ao seu menu.
Ao usar a OpenAI com chatbots, observe que o AI usa uma biblioteca de informações interna — ela processa as solicitações dos usuários e fornece os resultados diretamente no chat com um cliente.
AI não tem uma memória longa. Ao processar uma solicitação, apenas as últimas mensagens do usuário são consideradas. Recomendamos que você monitore as conversas do seu bot com os clientes para corrigir seus prompts.
AI não se integra a aplicativos adicionais e não processa dados de clientes no público. Para esses recursos, adicione um menu ou crie comandos para executar fluxos nos quais você pode adicionar os elementos "Solicitação de API", "Entrada do usuário" e "Ação".
Casos de Uso
Vejamos vários exemplos de como você pode usar um chatbot com uma integração OpenAI. Você pode ver mais exemplos na guia Exemplos.
Perguntas e respostas de negócios
Se você tiver um bot para um serviço carregado de recursos e tiver coletado um banco de dados de perguntas frequentes, poderá ensinar seu bot a fornecer respostas quando solicitado.
Para este exemplo, o modelo ChatGPT usou 2.048 tokens. Adicionamos informações curtas sobre a empresa, seus negócios e contatos. O bot pode desenvolver um diálogo com base nos dados recebidos.
Exemplo de prompt: você é um assistente de bot da empresa "Papel e lápis". Nossa empresa vende artigos de papelaria e material de escritório. Muitos itens estão em estoque, mas é melhor esclarecer pelo telefone: (856) 267-5442.
Endereço da loja: Central Avenue, 4472, Newark.
Horário defuncionamento: 9h00 às 19h00.
Use o seguinte texto para responder a perguntas sobre disponibilidade e preço do produto: "Deixe-nos verificar e retornaremos."
Use o seguinte texto para responder a perguntas não relacionadas a materiais de escritório: "Desculpe, não tenho informações sobre isso."
Para o segundo exemplo, coletamos um banco de dados de perguntas e respostas frequentes para limitar o escopo das respostas do bot e fornecer informações precisas sobre nossos serviços.
Para o segundo exemplo, o modelo Davinci usou 700 tokens. No campo “Instruções do bot”, adicionamos perguntas e respostas básicas a eles. Os usuários não precisam fazer essas perguntas literalmente, e a IA saberá o suficiente sobre o seu negócio para poder responder com naturalidade.
Exemplo de prompt: O bot analisa e fornece informações apenas a partir da lista de perguntas e respostas fornecida.
Pergunta: O que é uma página de link na bio?
Resposta: Uma página de link na bio é um site de uma página que pode ajudá-lo(a) a promover sua marca nas redes sociais. Crie uma conta na SendPulse e crie uma página de link da bio usando o criador de landing pages. Saiba mais: https://sendpulse.com/br/features/landing-page-builder
Pergunta: Quais elementos podem ser adicionados à minha página de link na bio?
Resposta: Texto, capa, galeria, botão, formulário de inscrição e pagamentos. Saiba mais: https://sendpulse.com/br/knowledge-base/landing-page/builder/create-landing-page
Enciclopédia de perguntas e respostas
Digamos que seu bot seja de natureza divertida e informativa. Ele não precisa responder a perguntas específicas, mas simplesmente fornecer fatos sobre, por exemplo, história ou qualquer outro tópico da Internet.
Por exemplo, o modelo Davinci usou 700 tokens. Especificamos apenas o idioma em que queremos que o bot responda e o nome do bot. Se você não escolher tópicos específicos, o bot fornecerá respostas para perguntas sobre qualquer tópico sem limites.
Exemplo de prompt: O nome do bot é Marl, e ele pode fornecer respostas a perguntas enciclopédicas em inglês. O bot responde usando uma palavra.
Resolvendo problemas de vida
Se você tiver um bot auxiliar, os usuários podem descrever sua situação de vida e pedir conselhos sobre o que fazer.
Por exemplo, o modelo Davinci usou 700 tokens. No campo “Instruções do bot”, adicionamos prompts específicos apenas para perguntas vitais. Se uma determinada situação acontecer, o bot informará aos usuários com quem entrar em contato.
Exemplo de prompt: O bot ajuda as pessoas a lidarem com situações críticas. Ele se coloca no lugar das pessoas e responde com cuidado. Em casos especialmente críticos, como morte, suicídio, envenenamento agudo etc., ligue para +380501010200.
Resolvendo tarefas de matemática
Se você tiver um bot auxiliar do aluno, os usuários podem adicionar sua tarefa e indicar o que precisa ser resolvido.
Por exemplo, o modelo Davinci usou 700 tokens. No campo “Instruções do bot” , adicionamos prompts que não permitem que o bot responda a perguntas não relacionadas à matemática.
Exemplo de prompt: O bot fornece respostas apenas a perguntas relacionadas à matemática. Em outros casos, o bot lembra aos usuários que ele somente ajuda com matemática.
Otimização de texto
Se você tiver uma ferramenta SMM ou SEO, seu bot pode ajudar os usuários a escolher palavras-chave ou revisar e otimizar o texto inserido para SEO.
Por exemplo, o modelo Ada usou 1024 tokens. No campo “Instruções do bot”, adicionamos prompts que permitem que o bot otimize o texto para SEO e pesquise palavras-chave. Se os usuários não executarem um comando, o bot os lembrará de como trabalhar com ele.
Exemplo de prompt: Este bot é um especialista em SEO. Ele sabe como encontrar palavras-chave e sugerir tópicos relacionados. O bot responde em inglês.
Descriptografia de código
Se você ensina programação, seu bot pode ajudar os usuários a decodificar partes do código ou erros e informar como funciona um determinado elemento ou função. Além disso, os usuários podem pedir ao seu bot para gerar código usando linguagem natural.
Por exemplo, o modelo Davinci usou 700 tokens. No campo “Instruções do bot”, adicionamos prompts que permitem ao bot descriptografar e explicar o código ou partes do código. Também adicionamos um tom para que o bot responda de maneira sarcástica usando palavras simples.
Exemplo de prompt: O bot explica o código Python de um modo que até um leigo entenderia. Ele também pode descrever funções e criar aplicativos simples. Se os usuários perguntarem sobre algo que não esteja relacionado a codificação, o bot irá lembrá-los que ele somente tem a capacidade de ajudar com programação.
Geração de texto
Se você tiver uma agência de marketing criativo, seu bot pode se oferecer para gerar texto para uma campanha publicitária ou criar um nome de marca e assim por diante.
Por exemplo, o modelo Davinci usou 1024 tokens. No campo “Instruções do bot”, adicionamos o nome do bot e escrevemos que ele trabalha em uma agência de marketing e ajuda os clientes a criar slogans publicitários e planos.
Exemplo de prompt: O bot trabalha para uma agência de marketing e ajuda os clientes a escreverem slogans publicitários e descrições de recursos.
Última Atualização: 09.08.2023
ou