Um chatbot é um programa que conversa com você por texto ou por voz. Alguns seguem regras fixas, com menus ou palavras-chave que alguém escreveu antes. Outros usam um modelo de linguagem (LLM) para interpretar frases livres e redigir cada resposta na hora.
Uma pergunta do app. Escolha uma resposta.
Um bot só te entende se você escreve "saldo" ou digita 1, 2 ou 3. O que tem por trás?
Um modelo de linguagem entenderia frases livres, não só "saldo" ou um número.
Só reconhece palavras ou números previstos. Cada um leva a uma resposta escrita antes, e o resto cai na resposta de erro.
As permissões limitam o que ele faz, não como entende o que você escreve.
O bot de regras é o do "digite 1 para saldo". Segue uma árvore de opções e palavras-chave: se você escreve "saldo", ele responde; se escreve "quanto dinheiro ainda tenho?" e ninguém previu isso, ele diz "Não entendi sua mensagem". Usa respostas previstas, que também podem estar erradas.
O chatbot com um LLM entende essa frase mesmo que ninguém a tenha previsto, porque não procura uma palavra exata: prevê uma resposta. Em troca, pode responder algo que soa bem e é falso, uma alucinação.
Um LLM não conhece seus horários nem seus preços. O bot de uma loja costuma buscá-los nos documentos do negócio antes de responder, com RAG. E o delicado, como uma reclamação ou um cancelamento, muitas vezes continua indo por um caminho fixo ou passa para uma pessoa.
Um chatbot é uma interface de conversa. Pode explicar como cancelar um pedido ou cancelá-lo se tiver acesso. Um agente de IA pode escolher etapas e ferramentas para cumprir um objetivo.
A linha não é tão nítida: se o bot do seu banco consulta seu saldo de verdade, ele já usa uma ferramenta. A pergunta útil é o que ele pode fazer sozinho, porque disso depende quanto é preciso conferir.
"Aprende com cada conversa." O modelo não muda enquanto você conversa: o que ele lembra da conversa está no seu contexto. Se a empresa usa seus chats depois para melhorá-lo depende da política dela. "Todo chatbot usa um LLM." A ELIZA, de 1966, respondia com regras e palavras-chave. "Se responde com segurança, é verdade." Soar fluente não torna certo: o importante se confere.