Alucinaciones en IA, cuando una máquina se inventa la respuesta y consigue que parezca verdad

 

 

Hay una escena que resume bastante bien uno de los problemas más desconcertantes de la inteligencia artificial. Una persona pregunta algo a una IA. La máquina responde inmediatamente. La respuesta está bien escrita. Tiene estructura. Utiliza términos técnicos. Incluso puede incluir nombres, fechas, enlaces y referencias aparentemente precisas. Y todo parece correcto. ¡Excepto que es falso!
No una pequeña imprecisión. No un error tipográfico. La IA puede haber inventado una sentencia judicial que nunca existió, una política comercial que nunca aprobó una empresa o una referencia académica que jamás se publicó.
Y lo más inquietante es que puede hacerlo con absoluta seguridad aparente.
Esto es lo que conocemos como alucinación de IA.
 
Y ya no es un problema exclusivamente tecnológico. Está empezando a convertirse en un problema empresarial, jurídico, reputacional y, en determinados sectores, incluso de seguridad.
 
¿Qué es una alucinación en inteligencia artificial?
 
Una alucinación de IA es una respuesta generada por un sistema de inteligencia artificial que contiene información falsa, inventada o no respaldada por los datos disponibles, pero que se presenta de una manera que puede parecer convincente.
OpenAI define las alucinaciones como afirmaciones plausibles pero falsas generadas por modelos de lenguaje. La propia compañía reconoce que incluso los modelos más avanzados pueden seguir produciéndolas, aunque su frecuencia haya disminuido.
 
Dicho de otra forma, una IA puede no saber algo y, en lugar de decir “no lo sé”, generar una respuesta que suena como si lo supiera.
Y aquí está la primera idea importante. Una alucinación no es necesariamente una mentira.
La palabra "mentir" implica intención. Una IA no necesita tener intención alguna para producir una falsedad.
El modelo genera una respuesta a partir de patrones aprendidos y de la información y herramientas disponibles en ese momento. Cuando no dispone de suficiente evidencia, puede completar los huecos con una respuesta estadísticamente plausible.
El problema es que lo plausible no siempre es verdadero.
 
 

¿Por qué una IA se inventa cosas?

 
Esta es probablemente la parte más interesante. Un modelo de lenguaje no funciona exactamente como una enciclopedia que abre una ficha y busca la respuesta correcta.
Simplificando mucho, un modelo de lenguaje genera texto prediciendo qué elementos deberían aparecer a continuación teniendo en cuenta el contexto.
Por eso puede producir una frase extraordinariamente convincente, aunque la información que contiene sea incorrecta.
 
Imaginemos que preguntamos: “¿Qué dijo el economista X sobre la productividad de las empresas españolas en 2024?”
Si el modelo no tiene una fuente fiable que pueda consultar, puede construir una respuesta mezclando patrones asociados con ese economista, productividad, España y 2024.
El resultado puede sonar perfectamente razonable. Pero, eso no demuestra que haya ocurrido. La fluidez no es una prueba de verdad.
Esta distinción es fundamental para entender la inteligencia artificial generativa.
 
Nature ha señalado que las alucinaciones siguen siendo un problema difícil de eliminar completamente en los modelos de lenguaje y que estos sistemas pueden generar referencias y citas inexistentes con apariencia de autenticidad.
 

La alucinación más peligrosa es la que parece profesional
 

Una respuesta absurda suele detectarse fácilmente.
Si una IA nos dice que Madrid está en Alemania, probablemente no vamos a incorporarlo a un informe.
El verdadero problema aparece cuando la respuesta es 90 % razonable y 10 % inventada. Porque ese 10 % puede ser precisamente el dato importante, como una fecha, una cifra, una cláusula, un nombre, una referencia, una sentencia, una contraindicación... Cuando desconocemos si la respuesta de la IA es inventada, aunque sea a pequeña escala, lo que nos debemos de plantear, antes de seguir adelante, es ¿cómo puedo demostrar que es cierto?
 

Caso real: Seis sentencias judiciales que nunca existieron

 
Probablemente sea uno de los ejemplos más conocidos de alucinación de IA porque reúne casi todos los ingredientes del problema.
 
En 2023, los abogados que representaban a Roberto Mata en un litigio contra Avianca, por una lesión que sufrió a bordo de un vuelo en 2019, cuando un carrito de servicio le golpeó la rodilla. Avianca pidió desestimar la demanda alegando que el plazo de prescripción del Convenio de Montreal había expirado. La defensa de Mata, llevada por el bufete Levidow, Levidow & Oberman P.C., debía argumentar que el plazo no había prescrito. Presentaron ante un tribunal federal de Nueva York un escrito que incluía referencias a varias sentencias. Parecía una investigación jurídica normal. Había nombres de casos, números de expediente, citas y fragmentos de supuestas resoluciones. Pero, había un problema... las sentencias no existían.
Habían sido generadas por ChatGPT.
 
Entre las referencias ficticias había casos como Varghese v. China Southern Airlines y Martinez v. Delta Airlines. Cuando el tribunal pidió explicaciones, los abogados volvieron a consultar a ChatGPT. Y ocurrió algo todavía más revelador:
la propia IA confirmó que los casos eran reales, cuando no lo eran.
 
El tribunal concluyó que se habían presentado decisiones judiciales inexistentes, con citas y contenidos ficticios, y sancionó a los abogados y al despacho con 5.000 dólares.
La lección empresarial es mucho más importante que los 5.000 dólares. El error no fue utilizar IA, sino usarla como fuente de autoridad sin verificar su resultado.
 
 
Caso real: Air Canada y la política que inventó su chatbot
 
Este caso resulta especialmente interesante para cualquier empresa que utilice IA de cara al cliente.
 
Un pasajero consultó el chatbot de Air Canada sobre las tarifas especiales por fallecimiento de un familiar.
El chatbot le indicó que podía comprar el billete y solicitar posteriormente la tarifa reducida, dentro de un determinado plazo.
El cliente siguió esa información.
Después, Air Canada rechazó la solicitud porque su política real no permitía ese procedimiento.
El cliente acudió al tribunal.
En febrero de 2024, el British Columbia Civil Resolution Tribunal consideró que Air Canada no había actuado con el cuidado necesario para garantizar que la información proporcionada por su chatbot fuera correcta y condenó a la compañía a pagar 812,02 dólares canadienses entre daños, intereses y tasas.
Pero la cantidad económica no es lo más interesante. Lo realmente importante fue la cuestión de fondo: para el cliente, el chatbot formaba parte de Air Canada. No importaba que detrás hubiera un algoritmo. La información procedía del canal oficial de la empresa. La compañía no podía trasladar la responsabilidad al chatbot.
 
Y aquí aparece una regla que cualquier director de marketing, atención al cliente o transformación digital debe dar por válida: si una IA habla en nombre de tu empresa, el cliente entiende que habla tu empresa.
 
Caso real: un chatbot de soporte inventó una política empresarial
 
En abril de 2025 ocurrió algo parecido, pero esta vez dentro del sector tecnológico.
Los usuarios de Cursor, una herramienta de programación basada en IA, empezaron a experimentar problemas al cambiar entre dispositivos.
Un usuario contactó con soporte. El agente de IA, llamado Sam, respondió que los cierres de sesión eran consecuencia de una nueva política de seguridad que limitaba el uso de una suscripción a un dispositivo. La respuesta sonaba completamente oficial. Solo había un pequeño problema: la política no existía.
El agente había inventado la explicación.
La respuesta comenzó a circular entre desarrolladores y algunos usuarios llegaron a anunciar públicamente que cancelaban sus suscripciones. Cursor terminó reconociendo el error y su cofundador pidió disculpas públicamente.
 
Este caso muestra algo diferente al de Air Canada.
Air Canada tuvo un problema de información incorrecta al cliente.
Cursor tuvo además un problema de autoridad organizativa.
La IA no se limitó a equivocarse sobre un producto. Inventó una política de la empresa.
Y eso abre una cuestión mucho más profunda: ¿qué ocurre cuando una IA no solo genera información incorrecta, sino que empieza a fabricar decisiones, normas o explicaciones que parecen proceder de la organización?
Ese es uno de los riesgos que aumenta cuando pasamos de asistentes a agentes de IA.
 
Caso real: una IA inventa una investigación que aparentemente demuestra lo que la empresa necesita
 
En 2025 apareció otro ejemplo especialmente interesante en el ámbito jurídico.
Durante un litigio relacionado con Anthropic y derechos de autor, un experto presentó una referencia a un supuesto artículo académico publicado en The American Statistician.
El artículo no existía.
La referencia fue cuestionada ante el tribunal y se planteó que el material podía haber sido generado por Claude, la IA de Anthropic.
Reuters informó de que la jueza consideró el asunto serio y distinguió entre un simple error de citación y una posible alucinación generada por IA.
 
Aquí aparece otro patrón: la IA puede fabricar la evidencia que aparentemente necesitamos para justificar una conclusión.
Y eso es especialmente peligroso. Porque una persona que busca confirmar una hipótesis puede pedir “Encuentra estudios que demuestren X”. Si el sistema no encuentra evidencia suficiente, existe el riesgo de que produzca algo que parezca evidencia.
Por eso una buena utilización de IA requiere aprender a formular también preguntas como “¿qué evidencia contradice esta conclusión?”.
 
Caso real: 2026 y una apelación por asesinato con testigos que nunca dijeron lo que la IA afirmó
 
Y el problema no se ha quedado en los primeros años de la IA generativa.
 
En septiembre de 2026, un abogado de Nuevo México fue sancionado con 5.000 dólares y declarado en desacato por presentar en una apelación información generada por ChatGPT que incluía testimonios policiales y testigos ficticios.
El caso corresponde a State v. Sandoval / In re Stephen D. Aarons.  Según Reuters, el abogado había utilizado ChatGPT para resumir las actuaciones del juicio y confió en que el sistema le proporcionaría un resumen fiable. El documento terminó incluyendo información que no había ocurrido en el juicio.
 
La gravedad aquí es evidente. No estamos hablando de un artículo de blog. Ni de una presentación de PowerPoint. Ni de una respuesta informal a un cliente.
La información acabó dentro de un procedimiento judicial, en el recurso de apelación de una persona condenada por asesinato.
 
Volvemos a constatar que la IA puede generar el texto, pero es responsabilidad del profesional comprobarlo y verificarlo.
 
Podría pensarse que estos errores ocurren únicamente cuando una persona sin experiencia utiliza una IA sin saber cómo funciona.
Los acontecimientos recientes no respaldan esa tranquilidad.
En 2025, Reuters informó de varios casos en los que grandes despachos de abogados tuvieron que responder por escritos judiciales que contenían citas generadas por IA que no podían verificarse. Entre ellos aparecieron firmas de gran tamaño como Latham & Watkins, K&L Gates y Butler Snow.
 

¿Todas las IA alucinan?

 
Los sistemas no alucinan con la misma frecuencia ni de la misma manera.
La calidad del modelo, el tipo de pregunta, la disponibilidad de fuentes, las herramientas de búsqueda, el contexto proporcionado y el diseño del sistema influyen.
 
Además, los modelos están mejorando. OpenAI ha informado de una reducción significativa de las alucinaciones en GPT-5, especialmente en tareas de razonamiento, aunque reconoce que el problema no está completamente resuelto. Es decir, “menos alucinaciones” no significa “cero alucinaciones”.
Y mucho menos significa que “puedo dejar de comprobar las respuestas”.
 
Un estudio publicado en Nature sobre detección de alucinaciones muestra precisamente que los modelos de lenguaje pueden producir respuestas falsas y no fundamentadas incluso cuando sus capacidades generales son muy elevadas.
 

Una IA que dice “no lo sé” puede ser mejor que una IA que responde a todo

 
Esta es una de las paradojas más interesantes de la inteligencia artificial.
Estamos acostumbrados a valorar mucho a las herramientas que siempre tienen una respuesta. Pero, en IA puede ocurrir lo contrario.
 
Si una pregunta no tiene información suficiente, una respuesta tipo “no dispongo de evidencia suficiente para afirmarlo”, sería mucho más útil que una respuesta espectacularmente redactada y falsa.
De hecho, uno de los grandes retos de los modelos de lenguaje consiste precisamente en calibrar la incertidumbre.
El usuario necesita saber no solo qué dice la IA. Necesita saber hasta qué punto debería confiar en ello.
 

Las alucinaciones de IA no son todas iguales

 
No todas tienen el mismo nivel de riesgo.
 
Podemos imaginar una especie de escalera.
 
Nivel 1: error anecdótico
 
La IA confunde el año en que se publicó un libro.
Molesto, pero probablemente poco importante.
 
Nivel 2: error profesional
 
Genera una cifra incorrecta en un informe empresarial.
Puede llevar a tomar una decisión equivocada.
 
Nivel 3: error reputacional
 
Inventa información sobre una empresa, un cliente o una persona.
Puede provocar problemas de imagen o incluso reclamaciones.
 
Nivel 4: error jurídico
 
Inventa legislación, contratos, jurisprudencia o precedentes.
Puede provocar sanciones y consecuencias legales.
 
Nivel 5: error crítico
 
Genera información incorrecta en ámbitos como medicina, seguridad, infraestructuras o finanzas.
Aquí una alucinación puede tener consecuencias mucho más graves.
 
La cuestión no es únicamente cuántas veces alucina una IA. Hay que preguntarse también qué ocurre cuando alucina en un proceso importante
 
 

El problema se multiplica cuando la IA puede actuar

 
Aquí conectamos directamente con el fenómeno de los agentes de IA.
Un chatbot que genera una respuesta falsa ya puede causar un problema. Pues imaginemos que el sistema puede además modificar un CRM, enviar un email, aprobar una solicitud, cambiar un precio, cancelar una reserva, generar una factura, ejecutar código, contratar un servicio o, mismamente, realizar una transferencia.
Entonces la alucinación deja de ser solamente una frase incorrecta. Puede convertirse en una acción incorrecta.
 
Reuters ha señalado precisamente que los agentes de IA introducen riesgos adicionales porque pueden tomar decisiones, interactuar con sistemas y ejecutar acciones de forma autónoma; entre esos riesgos aparecen las alucinaciones, la privacidad, la seguridad y las consecuencias de errores encadenados.
Por eso el paso de IA que responde a IA que actúa cambia radicalmente la gestión del riesgo.
 
La pregunta que debería hacerse una empresa
 
Una empresa ya sabe que la IA puede equivocarse. Lo importante es que se anticipe a lo que puede suceder cuando eso ocurre.
 
Una organización preparada debería poder responder:
 
¿Qué información puede generar la IA?
¿Qué información debe verificar una persona?
¿Qué decisiones puede recomendar?
¿Qué decisiones no puede tomar?
¿Qué sistemas puede consultar?
¿Qué sistemas puede modificar?
¿Qué acciones requieren aprobación humana?
¿Cómo registramos lo que ha hecho?
¿Cómo detectamos errores?
¿Cómo corregimos rápidamente una respuesta incorrecta?
¿Quién es responsable?
 
Estas preguntas son mucho más importantes que decidir simplemente qué modelo de IA comprar.
 

8 reglas para empresas que quieran reducir las alucinaciones de IA

 
No existe una fórmula mágica que elimine completamente el problema, pero sí se puede reducir de manera importante. Vamos a ver 8 acciones a tener en cuenta para minar al máximo el problema.
 
 

1. Darle fuentes fiables. Cuando una respuesta depende de información concreta, la IA debería trabajar sobre documentación verificable.

Cuanto menos tenga que “rellenar huecos”, mejor.
 

2. Utilizar RAG cuando sea apropiado. La generación aumentada mediante recuperación (RAG) permite que un sistema consulte fuentes concretas antes de generar una respuesta.

Por ejemplo:
Pregunta del cliente → búsqueda en documentación oficial → recuperación de información → respuesta.
No elimina todos los errores, pero reduce la necesidad de que el modelo responda basándose únicamente en sus patrones aprendidos.
 

3. Exigir citas o evidencias. En determinadas tareas profesionales, no basta con pedir una conclusión. Hay que pedir “la fuente exacta que respalda esta afirmación”. Y después comprobar que la fuente realmente dice eso. Porque, como hemos visto, una IA también puede inventarse la fuente.

 

4. Separar generación y validación. Una persona o un segundo sistema debería revisar los resultados de mayor riesgo.

 

5. Establecer límites de autonomía. No todo lo que un agente puede hacer debería estar autorizado a hacerlo.

 

6. Crear escalado humano. Cuando la IA no tenga suficiente información, debería existir una ruta clara hacia una persona.

 

7. Registrar las interacciones. Especialmente cuando la IA actúa sobre sistemas empresariales.

 

8. Formar a los empleados. Quizá sea la medida más infravalorada. El problema no es que los trabajadores utilicen IA. El problema es que no sepan cuándo desconfiar de ella.

 

La habilidad más importante no es saber preguntar a la IA

 
Sí, sí, durante los últimos años hemos hablado muchísimo de prompt engineering. Y saber escribir las mejores instrucciones sigue siendo útil, pero, a medida que la IA se vuelve más capaz, hay una habilidad todavía más importante, la de saber evaluar la respuesta.
 
Un buen profesional no debería limitarse a pensar que la IA le ha dado una respuesta de entre todos los recursos de los que dispone y darla por válida. Lo que debe de realizar son varias preguntas, tales como ¿qué parte de esta respuesta sé que es cierta?, ¿qué parte tengo que comprobar?, ¿qué evidencia la respalda?, ¿qué podría estar faltando?, ¿qué ocurriría si fuera incorrecta?...
Este cambio es fundamental. La IA puede acelerar la producción de respuestas. El criterio humano determina cuáles merecen convertirse en decisiones.
 
Una pequeña prueba que cualquiera puede hacer
 
La próxima vez que utilices una IA para una cuestión importante, prueba algo muy sencillo.
En lugar de terminar con la respuesta, pregunta: “¿Qué partes de tu respuesta podrían ser incorrectas y cómo puedo verificarlas?”.
Después: “Dame las fuentes primarias que respaldan cada dato”.
Y finalmente: “Si no encuentras una fuente fiable, indícalo expresamente en lugar de completar la información”.
 
Por supuesto, estas acciones no convierten a la IA en infalible, pero cambia radicalmente la relación con ella. Pasamos de “dime la respuesta” a “ayúdame a construir una respuesta que pueda comprobar”.
 

Cuanto más convincente es la IA, más importante es verificarla

 
Aquí está la parte que quizá más debería preocupar a las empresas.
Una IA mediocre que se equivoca mucho genera desconfianza.
Una IA extraordinariamente buena que se equivoca poco, pero lo hace con gran convicción puede ser más peligrosa. Porque genera confianza. Y la confianza hace que bajemos la guardia.
 
Los casos de abogados, Air Canada o Cursor tienen algo en común. La información falsa no parecía absurda. Parecía profesional. Parecía oficial. Parecía documentada. Y, precisamente por eso, alguien actuó sobre ella.
 
La inteligencia artificial está consiguiendo algo extraordinario, como es producir conocimiento, análisis y contenido a una velocidad que ningún equipo humano puede igualar. Pero esa velocidad de generación no puede sustituir a la verificación.
Y quizá esta sea una de las competencias profesionales más importantes de la era de la IA. No saber solamente cómo obtener una respuesta de una máquina, sino saber cuándo creerla.
Porque una alucinación de IA, si nadie la comprueba, puede terminar convertida en una decisión, un contrato, una política, una sanción, una pérdida económica o un problema de reputación. La gran vulnerabilidad aparece cuando confundimos fluidez con fiabilidad.