Por qué la IA se inventa cosas y cómo comprobarlo

Le preguntas a un chatbot por un libro y te da el título, el autor, el año y un resumen. Todo suena perfecto… y el libro no existe. A eso se le llama alucinación: una respuesta falsa presentada con la misma seguridad que una verdadera. No es un fallo raro ni un error de un servicio concreto: es una consecuencia de cómo funcionan estos modelos.

Por qué ocurre

Un modelo de lenguaje no busca la respuesta en una base de datos de hechos comprobados. Como explica el curso de Google sobre modelos de lenguaje, lo que hace es estimar cuál es el siguiente fragmento de texto más probable a partir de lo anterior. Ha aprendido de enormes cantidades de texto cómo suelen ser las respuestas, así que siempre produce algo con forma de respuesta correcta, aunque no tenga los datos.

Por eso:

• Prefiere dar una respuesta plausible a decir «no lo sé», salvo que se le haya entrenado o pedido expresamente.
• Mezcla datos reales con inventados en el mismo párrafo, sin avisar.
• Su conocimiento tiene una fecha de corte: lo que pasó después no lo sabe, a menos que busque en internet.
• Si la pregunta contiene una premisa falsa («¿por qué ganó Cervantes el Nobel?»), puede seguirte la corriente.

Los modelos actuales se equivocan bastante menos que los de hace unos años, y los que buscan en internet y citan fuentes ayudan a comprobarlo. Pero ninguno es infalible.

Dónde es más peligroso

• Citas, referencias y enlaces: artículos científicos, sentencias, leyes o URLs que no existen.
• Cifras exactas: precios, fechas, estadísticas, plazos.
• Salud, dinero y derecho: dosis de medicamentos, impuestos, contratos, plazos legales.
• Temas recientes o muy locales: la normativa de tu comunidad autónoma, el horario de un organismo.
• Cálculos largos: aunque han mejorado mucho, pueden fallar en operaciones encadenadas.
• Sobre personas concretas: puede atribuir hechos falsos a alguien real.

Un método rápido para verificar

1. Pide las fuentes y ábrelas tú. Comprueba que existen y que dicen lo que la IA afirma, no solo que el título suena bien. Si un enlace te parece raro, revísalo antes con nuestro analizador de enlaces.
2. Contrasta lo importante en una fuente oficial: la web del organismo, el BOE, la documentación del fabricante o tu médico.
3. Pregunta de otra forma o en una conversación nueva. Si la respuesta cambia, desconfía.
4. Pídele que señale sus dudas: «indica qué partes no puedes comprobar».
5. Busca la premisa: si tu pregunta daba algo por hecho, compruébalo primero.

Cómo reducir las alucinaciones al preguntar

• Dale el material de partida («responde solo con la información de este texto») en lugar de pedirle que lo recuerde.
• Dile explícitamente que puede responder «no lo sé».
• Usa el modo con búsqueda en internet cuando la pregunta dependa de datos actuales, y revisa los enlaces que cite.
• Escribe instrucciones claras: tienes más técnicas en cómo escribir buenos prompts.

La responsabilidad es de quien publica

Si usas una respuesta de IA en un trabajo de clase, un informe o una publicación, lo que firmes es responsabilidad tuya, no del chatbot. La Ley de IA europea obliga a los proveedores a avisar de que estás hablando con una máquina y a que el contenido generado sea identificable, pero eso no garantiza que sea cierto.

La regla práctica: usa la IA para entender, resumir, redactar y generar ideas, y verifica siempre los datos antes de fiarte de ellos.