Una alucinación es una respuesta de la IA que suena segura y convincente pero es falsa o inventada: un dato, una cita, una ley, un link o un libro que no existe. Pasa porque un modelo de lenguaje arma el texto más probable, no comprueba si es verdad. No es una falla rara: es parte de cómo funciona.
Una pregunta de la app. Elige una respuesta.
Si predice lo probable, ¿por qué inventa?
Una respuesta falsa no implica intención de engañar. Puede generar texto convincente sin respaldo.
Una frase probable puede ser falsa. Predecir tokens no garantiza verificar los hechos.
Una alucinación no significa que el sistema esté averiado: generar texto no garantiza exactitud.
Pides una bibliografía para un trabajo práctico y recibes cinco libros con autor, año y editorial. Dos no existen. O pides la fuente de un dato y te da un link con una dirección que parece real, pero la página no está. El tono no cambia: lo inventado se escribe con la misma seguridad que lo cierto.
El nombre es una metáfora: la IA no ve cosas ni se confunde como una persona. Lo que hace es completar con algo que encaja en la forma de la respuesta, aunque no encaje con la realidad.
Un modelo de lenguaje escribe eligiendo un token tras otro según lo que suele venir después. Si el dato que buscas no estaba en lo que aprendió, el siguiente pedazo más probable igual existe, y lo escribe. Una cita con autor y año tiene una forma muy reconocible, así que el modelo puede armarla perfecta aunque esté vacía.
Hay situaciones que lo empeoran: preguntas por algo posterior a lo que aprendió el modelo, el dato es muy específico (un número de artículo, una fecha exacta) o las instrucciones lo empujan a responder siempre, como un asistente al que le dijeron «nunca digas que no sabes».
Muchos modelos vieron mucho más texto en inglés y sobre temas globales que sobre tu ciudad. Pregunta por un músico conocido en tu provincia, por las líneas de autobús o colectivo de tu barrio o por los libros de una autora de tu país y la probabilidad de recibir algo inventado sube: hay pocos ejemplos, y el modelo completa con lo que parece típico.
Dale la fuente en el prompt: pega el texto o el documento y pide que responda solo con eso (automatizado, eso es RAG). Dale permiso para decir «no lo sé». Pide que copie la frase exacta de donde saca cada dato, así puedes buscarla. Y abre los links y revisa números, nombres y citas antes de usarlos. Nada de esto lo garantiza, pero baja mucho el riesgo.
«Le pregunto si está seguro y me dice que sí.» Eso no prueba nada: puede confirmar lo inventado con la misma calma. «Si busca en internet, ya no inventa.» Ayuda, pero puede leer mal una página o mezclar dos. «Solo pasa con preguntas difíciles.» También pasa con preguntas simples sobre datos que no conoce.