Uma alucinação é uma resposta da IA que soa segura e convincente mas é falsa ou inventada: um dado, uma citação, uma lei, um link ou um livro que não existe. Acontece porque um modelo de linguagem monta o texto mais provável, não confere se é verdade. Não é uma falha rara: faz parte de como ele funciona.
Uma pergunta do app. Escolha uma resposta.
Se prevê o provável, por que inventa?
Uma resposta falsa não implica intenção de enganar. Pode gerar texto convincente sem respaldo.
Uma frase provável pode ser falsa. Prever tokens não garante verificar os fatos.
Uma alucinação não significa que o sistema esteja quebrado: gerar texto não garante exatidão.
Você pede uma bibliografia para um trabalho da faculdade e recebe cinco livros com autor, ano e editora. Dois não existem. Ou pede a fonte de um dado e recebe um link com um endereço que parece real, mas a página não existe. O tom não muda: o inventado é escrito com a mesma segurança que o verdadeiro.
O nome é uma metáfora: a IA não vê coisas nem se confunde como uma pessoa. Ela completa com algo que se encaixa na forma da resposta, mesmo que não se encaixe na realidade.
Um modelo de linguagem escreve escolhendo um token depois do outro, conforme o que costuma vir depois. Se o dado que você procura não estava no que ele aprendeu, o próximo pedaço mais provável existe mesmo assim, e ele escreve. Uma citação com autor e ano tem uma forma muito reconhecível, então o modelo pode montar uma perfeita, mas vazia.
Algumas situações pioram: você pergunta sobre algo posterior ao que o modelo aprendeu, o dado é muito específico (um número de artigo, uma data exata) ou as instruções o empurram a responder sempre, como um assistente a quem disseram "nunca diga que não sabe".
Muitos modelos viram muito mais texto em inglês e sobre temas globais do que sobre a sua cidade. Pergunte por um músico conhecido no seu estado, pelas linhas de ônibus do seu bairro ou pelos livros de uma autora do seu país e a chance de receber algo inventado aumenta: há poucos exemplos, e o modelo completa com o que parece típico.
Dê a fonte no prompt: cole o texto ou o documento e peça que responda só com isso (automatizado, isso é RAG). Dê permissão para dizer "não sei". Peça que copie a frase exata de onde tira cada dado, assim você pode procurá-la. E abra os links e confira números, nomes e citações antes de usar. Nada disso garante, mas reduz bastante o risco.
"Pergunto se tem certeza e ela diz que sim." Isso não prova nada: pode confirmar o inventado com a mesma calma. "Se busca na internet, não inventa mais." Ajuda, mas pode ler mal uma página ou misturar duas. "Só acontece com perguntas difíceis." Também acontece com perguntas simples sobre dados que ela não conhece.