Una inteligencia artificial puede responder con claridad y seguridad y, aun así, equivocarse. A esto se le llama «alucinación»: información incorrecta o inventada presentada como si fuera cierta. El término es una metáfora; no significa que la máquina vea o experimente cosas.
¿Por qué sucede?
Los modelos de lenguaje generan texto a partir de patrones aprendidos durante su entrenamiento y del contexto disponible. Producir una frase probable no equivale a comprobar un hecho. Pueden mezclar nombres, fechas y datos, completar información faltante o aceptar una premisa equivocada.
Además, ciertos métodos de entrenamiento y evaluación pueden favorecer que el sistema intente responder en lugar de reconocer su incertidumbre. No todos los errores tienen la misma causa, ni todos los modelos se comportan igual.
El problema: parece creíble
Una respuesta falsa puede tener gramática impecable, tono profesional y detalles precisos. Incluso puede incluir una cita, un estudio o un enlace inexistentes. Por eso, la confianza del lenguaje no es una medida de exactitud.
¿Se puede reducir?
Consultar fuentes externas ayuda a fundamentar las respuestas. La evaluación humana durante el entrenamiento puede mejorar el reconocimiento de la incertidumbre. Estas medidas reducen riesgos, pero no eliminan los errores.
Antes de confiar, verifica
Comprueba nombres, fechas y cifras. Abre los enlaces y confirma que respalden la respuesta. Contrasta los datos importantes con fuentes originales y actualizadas. Usa la IA para explorar ideas y organizar información, sin renunciar a tu criterio.
Texto en inglés publicado en la revista
Leer el artículo original en español ↑
WHEN AI MAKES THINGS UP
AI hallucinations are incorrect or invented statements that can sound convincing. Language models generate responses from learned patterns, which do not guarantee factual accuracy. External sources and better training can reduce errors, but cannot eliminate them. Check names, dates, numbers, and citations against reliable original sources. AI can help you explore ideas and organize information; your judgment remains essential.
Fuentes: OpenAI Research · OpenAI Help Center · Anthropic Engineering