Alucinaciones: por qué la IA a veces inventa
Una alucinación es cuando la IA te da información falsa, pero con toda la seguridad del mundo: un libro que no existe, una ley inventada, un dato médico incorrecto o una cita que nadie dijo. No lo hace por mala fe. Recuerda que su trabajo es producir texto que suene probable, no consultar una base de datos de verdades.
¿Te acuerdas del compañero que no estudió para la exposición y, en lugar de decir «no sé», improvisaba con mucha seguridad? Sonaba convincente, pero se inventaba la mitad. Un modelo de lenguaje puede hacer lo mismo cuando no tiene el dato: rellena el hueco con algo que suena bien.
| Riesgo | Tipo de pregunta | Ejemplo |
|---|---|---|
| Alto | Datos muy específicos: cifras, fechas, nombres poco conocidos | ¿Cuántos habitantes tiene mi municipio? |
| Alto | Citas, referencias, leyes y artículos exactos | ¿Qué dice el artículo 27 de tal reglamento? |
| Alto | Información reciente después de su fecha de corte | ¿Cuál es el tipo de cambio de hoy? |
| Medio | Cálculos largos o con muchos pasos | Calcula mi aguinaldo con estos 6 datos |
| Bajo | Redactar, resumir un texto que tú le das, dar ideas | Resume este aviso de la escuela |
✅ Señales de alerta de una posible alucinación
Cómo reducir las alucinaciones
-
1
Dale la información tú
En lugar de preguntarle de memoria, pega el texto, el aviso o el documento y pídele que trabaje solo con eso.
-
2
Pídele que admita la duda
Agrega: «Si no estás seguro, dímelo; no inventes datos».
-
3
Pide fuentes y revísalas
Usa la búsqueda web de la herramienta y abre los enlaces. Si el enlace no existe, desconfía.
-
4
Verifica en la fuente oficial
SAT, IMSS, gob.mx, tu banco o tu médico tienen la última palabra.
Vamos a provocar a propósito el escenario de mayor riesgo para que aprendas a reconocerlo.
Recomiéndame tres libros escritos por autores mexicanos sobre inteligencia artificial, con título exacto, autor y año de publicación. Si no estás seguro de alguno, indícalo claramente.
Puede darte títulos reales o inventados. Gracias a la última instrucción, quizá marque alguno como dudoso.
Busca cada libro en Google o en una librería en línea. ¿Existen todos? Anota cuántos encontraste. Ese ejercicio es exactamente la verificación que debes hacer con datos específicos.
- ›Alucinar es inventar información con seguridad; no es mala fe, es su forma de funcionar.
- ›El riesgo es mayor en datos específicos, citas, leyes e información reciente.
- ›Dale la fuente, pídele que admita dudas y pide enlaces verificables.
- ›En salud, dinero, leyes y trámites, la fuente oficial tiene la última palabra.
