Qué son las alucinaciones de la IA

Es el miedo número uno de cualquier empresa que piensa en poner un agente de IA delante de sus clientes: que diga algo que no es verdad. Y es un miedo razonable, porque un modelo de lenguaje no avisa cuando se inventa algo; lo dice con el mismo tono que lo que sabe. Aquí tienes qué es una alucinación, un ejemplo medido, por qué pasa, cuántas veces y qué funciona para evitarla.

En pocas palabras

• Una alucinación es una respuesta que suena bien pero es falsa o inventada.
• No es un fallo raro: le preguntamos 20 veces a un modelo la tarifa de una empresa inventada y dio una cifra las 20.
• Pasa porque el modelo escribe lo más probable, no lo que ha comprobado, y porque se le entrena premiando adivinar.
• RAG la reduce, pero no la quita: en un estudio de Stanford, herramientas con RAG se equivocaban entre el 17 % y el 33 % de las veces.
• Se controla con datos de la empresa en cada respuesta, un prompt que deje decir «no lo sé», pruebas y una persona para lo importante.

¿Qué es una alucinación de la IA?

IBM las define así:

La palabra es una metáfora, y no del todo exacta: el modelo no ve nada que no esté. Lo que hace es rellenar un hueco con lo que le parece más probable. Por eso las alucinaciones más peligrosas no son las absurdas, que se notan, sino las verosímiles: una tarifa razonable, un horario normal, un plazo que podría ser el vuestro.

IBM recoge ejemplos conocidos. Un abogado de Estados Unidos presentó ante un tribunal un escrito con sentencias que no existían, con su número y todo, porque se las había dado un chat. La respuesta automática del buscador de Google recomendó poner pegamento no tóxico en la salsa de una pizza, sacado de una broma en un foro de 2013. Ninguno de los dos sistemas avisó de que estaba inventando.

¿Cuántas veces se inventa algo? Un ejemplo medido

Lo hemos probado con lo que más le importa a un servicio técnico: una tarifa. Nos inventamos una empresa, Climatizaciones Valdecruz, le dijimos a un modelo comercial que era su asistente, sin darle ningún dato más, y le pedimos en una sola llamada 20 respuestas a la misma pregunta, con la variación normal de un chat. Este es el resultado:

Las 20 dieron una tarifa. 17 dijeron 50 euros y 3, 60 euros. Ninguna dijo que no lo sabía, aunque no tenía de dónde sacarlo. Y 18 de las 20 añadieron por su cuenta una política comercial: que ese importe se descuenta si luego se hace la reparación. Un cliente que lea eso tiene por escrito un precio y una condición que nadie en la empresa ha decidido.

¿Por qué se producen?

IBM señala cuatro causas. La primera, los datos de entrenamiento: si el modelo aprendió de textos con errores o con huecos, los repite o los rellena. La segunda, la propia forma de funcionar: un modelo de lenguaje está hecho para escribir lo estadísticamente probable, no lo comprobado. La tercera, el sobreajuste, que es quedarse con patrones que no se generalizan. Y la cuarta, las entradas maliciosas, mensajes escritos a propósito para que el modelo falle.

Para un servicio técnico, la segunda es la que importa. Un LLM no sabe vuestras tarifas, pero a una pregunta por un precio lo más probable es contestar con un precio, y eso es lo que escribe. En 2025, un artículo de Adam Tauman Kalai y otros tres investigadores, «Why Language Models Hallucinate», añadió otra causa: los modelos se entrenan y se evalúan como un alumno en un examen tipo test en el que no restan los fallos, así que adivinar puntúa mejor que decir «no lo sé». La página del LLM lo explica con más detalle.

¿Y si el agente busca en los documentos?

Ayuda mucho, pero no las elimina. RAG, que es darle al modelo los documentos de la empresa en cada respuesta, quita el motivo principal: el modelo ya no tiene que adivinar la tarifa, la lee. Aun así, el RegLab de la Universidad de Stanford probó en 2024 herramientas jurídicas comerciales que usaban RAG y se anunciaban «sin alucinaciones», y se inventaban algo entre el 17 % y el 33 % de las veces.

Con RAG, los fallos cambian de forma. El agente no encuentra el documento que hacía falta y contesta con lo que tiene; encuentra uno viejo porque había dos versiones; o lo encuentra y lo lee mal. Por eso los documentos que se le dan tienen que estar al día, sin dos tarifas para lo mismo, y por eso conviene que quede registrado qué leyó para cada respuesta.

¿Cómo se evitan en un agente de servicio técnico?

Entre las medidas que propone IBM, cuatro son las que más pesan en una empresa. La primera, que el agente lea en vez de recordar: los datos del cliente, del contrato y de las tarifas se consultan en vuestro programa y en vuestros documentos en el momento, nunca de memoria.

La segunda, un prompt que le dé una salida: escribir qué no sabe y qué tiene que hacer cuando le pregunten por eso, por ejemplo decir que lo confirma la oficina. La tercera, probarlo con preguntas reales de clientes antes de encenderlo, y seguir revisando conversaciones después, porque una prueba que sale bien no garantiza la siguiente. Y la cuarta, una persona para lo importante: lo que compromete a la empresa, como un precio, una cita o una orden, lo aprueba alguien antes de que salga. Es el humano en el bucle.

Así trabajamos en Delegic. El agente solo afirma lo que ha leído en vuestro programa o en vuestros documentos; lo que no encuentra, lo pregunta o se lo pasa a la oficina. Cada conversación guarda qué consultó, y antes de que hable con un cliente se prueba con avisos que ya pasaron.

Preguntas frecuentes

¿Por qué se llaman alucinaciones?

Es una metáfora: el modelo da por cierto algo que no está en ninguna parte, como quien ve algo que no existe.

¿Se pueden eliminar del todo?

Hoy no. Se pueden reducir mucho dándole al modelo los datos en cada respuesta y dejándole decir «no lo sé», pero el estudio de Stanford muestra que siguen apareciendo incluso con RAG. Por eso lo que compromete a la empresa pasa por una persona.

¿Cómo sé si mi agente se inventa cosas?

Probándolo con preguntas cuya respuesta conocéis, sobre todo las que no le habéis dado, y revisando conversaciones reales cada semana. Si el agente guarda de dónde sacó cada dato, es mucho más fácil ver dónde se ha inventado algo.

¿Alucinar es lo mismo que equivocarse?

No del todo. Equivocarse es leer mal un dato que existe; alucinar es dar uno que no está en ninguna parte. En la práctica, para el cliente las dos cosas son un dato falso, y se evitan casi con las mismas medidas.

Términos relacionados

• LLM: el modelo que escribe la respuesta, y por qué adivina.
• RAG: darle los documentos de la empresa en cada respuesta.
• Prompt: donde se le dice qué no sabe y qué hacer entonces.
• Guardarraíles: los límites que no dependen de lo que diga el modelo.
• Evaluación: probar el agente con casos reales antes de encenderlo.