El problema
Los modelos de IA pueden producir citas que parecen reales: un autor verosímil, una revista, un año, incluso un enlace. Algunas no existen. Otras existen pero no dicen lo que el modelo afirma. Ambos fallos se leen igual que una cita correcta, y por eso es fácil pasarlos por alto.
Es una forma de alucinación de la IA con un peligro concreto: una cita da a entender que la afirmación está comprobada, así que baja tu guardia justo cuando deberías subirla.
Tres maneras en que falla una cita
- Fuente inventada. El artículo, libro, sentencia o página no existe.
- Fuente real, afirmación equivocada. La fuente existe, pero el pasaje no respalda lo dicho, o dice otra cosa.
- Fuente real, detalles equivocados. El título es correcto pero no el autor, el año, la página o la cifra.
Un enlace no lo arregla. Un modelo puede producir un enlace roto, que lleva a algo distinto, o simplemente adivinado a partir de un formato de URL común.
Una comprobación de cinco minutos
- Busca el título exacto entre comillas en un buscador o en una base de datos del campo (Google Scholar, PubMed, la web del tribunal o de la legislación).
- Abre la fuente misma, no un resumen.
- Encuentra el pasaje concreto en el que se apoya la afirmación. ¿Lo dice, en su contexto?
- Comprueba los detalles: autor, año, revista, cifra. Detalles erróneos indican que el modelo reconstruyó en lugar de recuperar.
- Comprueba la fecha y el estado. ¿Se ha retractado, sustituido o anulado?
Si no encuentras la fuente en unos minutos, trata la afirmación como no respaldada en vez de «probablemente cierta».
Usar varios modelos como filtro
Un panel ayuda a clasificar. Si un modelo cita un artículo que ningún otro menciona y no se encuentra, es una señal. Si varios citan la misma fuente real y respalda la afirmación, tienes una pista que merece abrirse. No sustituye abrir la fuente: los modelos también pueden compartir una cita errónea.
Hábitos que reducen el riesgo
- Pide fuentes y el pasaje o cita exacta, y compruébalos.
- Prefiere modelos y herramientas que citen páginas en vivo que puedas abrir y leer.
- No pongas nunca en un artículo, escrito o informe una cita dada por la IA sin abrirla.
- Guarda un registro de lo que comprobaste y cuándo.
Pruébalo con tu propia pregunta
Lanza la pregunta que te importa a seis modelos independientes y mira dónde coinciden y dónde divergen. Preguntar a 6 IA en Satcove, gratis, sin tarjeta.
Preguntas frecuentes
¿Por qué inventan fuentes los modelos? Generan texto estadísticamente verosímil. Una cita tiene una forma reconocible, y un modelo puede producir la forma sin recuperar un registro real.
¿Un enlace que funciona prueba que la afirmación es correcta? No. Hay que abrir la página y leer el pasaje en su contexto.
¿Las herramientas con búsqueda web siguen fallando? Menos en la página que han recuperado, pero pueden leerla mal o resumirla en exceso. Abre la fuente.