Le preguntas por un artículo de una ley y te da el número, el texto y hasta la fecha de publicación. Todo suena perfecto. Abres el diario oficial y ese artículo dice otra cosa. O no existe.
A esto se le llama alucinación, y no es un error que se vaya a arreglar con la próxima versión: es una consecuencia directa de cómo funcionan estos sistemas. Entender el mecanismo —que es más simple de lo que parece— es lo que te permite saber cuándo desconfiar, que es la única habilidad realmente indispensable para usar esto en el trabajo.
Por qué pasa, en dos minutos
Un modelo de lenguaje no consulta una base de datos ni «recuerda» hechos. Lo que hace es predecir, palabra por palabra, cuál es la continuación más probable de un texto, a partir de los patrones que aprendió de enormes cantidades de escritura.
Eso significa que cuando le preguntas por el artículo 27 de una ley, no va a buscarlo: construye la continuación más plausible de la frase «el artículo 27 dice que…». Si en su entrenamiento vio muchos textos legales, sabe perfectamente qué forma tiene un artículo de ley: la estructura, el vocabulario, el tono. Y produce algo con esa forma exacta.
Imagina a alguien que leyó diez mil contratos pero no recuerda ninguno en particular. Le pides que te diga qué decía la cláusula quinta de un contrato concreto y, en vez de admitir que no lo sabe, escribe la cláusula quinta más típica de todos los contratos que leyó. Va a sonar impecable. Y no será la de tu contrato. Eso es exactamente lo que ocurre, y explica por qué el error es más frecuente justo en los detalles concretos: números de artículo, fechas, cifras, nombres.
Lo peligroso no es el error: es el aplomo
Todas las fuentes de información se equivocan. Lo que hace distintas a estas herramientas es que no hay diferencia perceptible entre una respuesta correcta y una inventada. El mismo tono seguro, el mismo nivel de detalle, la misma redacción impecable.
Un buscador te muestra la fuente y tú la juzgas. Un libro tiene autor y editorial. Un colega duda, dice «creo que», se corrige. Un modelo de lenguaje entrega el dato falso con la misma convicción que el verdadero, porque internamente no hay ninguna distinción: ambos son continuaciones probables.
De ahí la conclusión práctica: no puedes usar tu sensación de confianza para decidir si algo es cierto. Tienes que usar una regla externa, y esa regla es el tipo de dato, no lo convincente que suene.
Los siete terrenos donde más se inventa
| Terreno | Riesgo | Por qué |
|---|---|---|
| Leyes, artículos y normas | Muy alto | Conoce la forma, no el contenido exacto; y cambian cada año |
| Citas y referencias bibliográficas | Muy alto | Genera autores, títulos y DOI que no existen |
| Cifras y estadísticas concretas | Alto | Produce números plausibles con fuente inventada |
| Precios y planes de servicios | Alto | Cambian constantemente y su información tiene fecha de corte |
| Personas poco conocidas | Alto | Mezcla biografías o inventa cargos |
| Detalles de eventos recientes | Alto | Fuera de su fecha de corte de conocimiento |
| Funciones de programas | Medio | Inventa menús, botones y funciones que no existen |
Y al revés, los terrenos donde el riesgo es bajo: reescribir un texto que tú le diste, resumir un documento que subiste, traducir, explicar un concepto general, generar ideas, dar estructura. En todos esos el material sale de ti, no de su memoria.
Es el ejemplo más documentado y el que más problemas ha causado, incluidos casos de abogados sancionados por presentar jurisprudencia inexistente ante tribunales. Si pides referencias bibliográficas, asume que una parte importante puede no existir: autores reales combinados con títulos falsos, revistas reales con números inventados, identificadores que no llevan a ninguna parte. Cada referencia se verifica una por una en la fuente. Sin excepción.
Cómo detectar una respuesta inventada
Señales que deberían encender la alarma:
- Precisión sospechosa. «El 73,4 % de las pymes mexicanas…» Cuando da un dato con decimales sin que le hayas dado la fuente, desconfía.
- La respuesta es exactamente lo que querías oír. Si preguntas «¿es cierto que X?», tiende a confirmarte. Prueba a preguntar lo contrario: si también te lo confirma, está complaciendo, no informando.
- Cambia al repreguntar. Pregunta lo mismo en una conversación nueva. Si la respuesta es distinta, no lo sabe.
- No puede decir de dónde lo sacó. Pregúntale la fuente. Si es vaga —»según diversos estudios»— o si el enlace no abre, mala señal.
- Detalles excesivos sobre algo específico. Cuanto más concreto es el dato —un número de artículo, una fecha exacta, un nombre poco conocido— más probable es que sea construido.
- Se disculpa y te da otro dato igual de seguro. Si le señalas un error y de inmediato produce una alternativa con la misma convicción, tampoco sabe esa.
Cómo reducirlo mucho
No se elimina, pero se reduce muchísimo con cuatro hábitos:
1. Dale tú el material
Es el cambio más eficaz de todos. En vez de preguntarle qué dice un contrato, súbele el contrato y pregúntale sobre él. En vez de pedirle datos de mercado, dale tus datos. Cuando la información está en la conversación, la tasa de error cae de forma drástica, porque ya no tiene que reconstruir nada.
2. Autorízalo a no saber
Estos sistemas están entrenados para ser útiles, y «no lo sé» se siente poco útil. Hay que darle permiso expresamente:
Reglas para esta conversación: - Si no sabes algo con certeza, di "no lo sé". Prefiero eso a una respuesta aproximada. - Distingue siempre entre lo que sabes con seguridad, lo que crees probable y lo que estás deduciendo. Márcalo en la respuesta. - Si te pido un dato concreto (cifra, fecha, artículo de ley, cita, precio), dime también qué tan confiable es y dónde debería verificarlo. - Nunca inventes referencias, fuentes ni enlaces. Si no tienes la fuente exacta, dilo. - Si te falta información para responder bien, pregúntame antes de responder.
3. Pregunta dos veces, en conversaciones distintas
Si lo que sabe es sólido, responderá parecido. Si es una construcción probable, la segunda versión va a diferir. Es la prueba más rápida que existe y no cuesta nada.
4. Verifica según el tipo de dato
Que es la regla de la siguiente sección.
¿La búsqueda web lo resuelve?
Ayuda bastante, y no lo resuelve. Cuando el modelo busca en internet antes de responder, trabaja con texto real en vez de con su memoria, y eso reduce mucho el problema en datos actuales.
Pero quedan tres agujeros que conviene conocer:
- Puede resumir mal la fuente aunque la fuente sea correcta, cambiando un matiz importante.
- Puede citar una fuente mala. Que esté publicado en internet no lo hace cierto, y el modelo no siempre distingue una fuente oficial de un blog copiado.
- Puede mezclar lo que encontró con lo que «recordaba», produciendo una respuesta híbrida donde parte es verificable y parte no.
Por eso, cuando dé enlaces, ábrelos. Que aparezca un enlace no significa que el enlace diga lo que la respuesta afirma, y esa comprobación de diez segundos atrapa una cantidad sorprendente de errores.
La regla de las tres categorías
Esta es la conclusión práctica de toda la guía. Clasifica cualquier cosa que te devuelva en una de tres cajas:
| Categoría | Qué es | Qué hacer |
|---|---|---|
| Verde | Trabajo sobre material que tú diste: reescribir, resumir, traducir, estructurar, generar ideas | Léelo con atención normal |
| Amarillo | Conocimiento general estable: cómo funciona algo, conceptos, procedimientos comunes | Contrasta si vas a actuar en consecuencia |
| Rojo | Datos concretos: cifras, fechas, leyes, citas, precios, nombres, requisitos de trámites | Verifica en la fuente. Siempre. Sin excepción |
No es escribir prompts sofisticados: es saber en qué caja cae cada respuesta. La gente que se mete en problemas con la IA no es la que la usa mucho, sino la que trata todo como si fuera verde. La que le saca provecho de verdad usa el verde a diario sin desconfiar, y nunca deja pasar un rojo sin verificar.
Preguntas frecuentes
¿Por qué la inteligencia artificial inventa datos?
Porque no consulta una base de datos: predice cuál es la continuación más probable de un texto, palabra por palabra. Cuando le pides un dato concreto que no tiene bien fijado, no se detiene a admitirlo: construye la continuación más plausible, que tiene exactamente la forma correcta —estructura, vocabulario, tono— pero contenido inventado. Por eso los errores se concentran justo en los detalles: artículos de ley, cifras, fechas, citas y nombres poco conocidos.
¿Se va a arreglar con las próximas versiones?
Ha mejorado mucho y seguirá mejorando, sobre todo con la búsqueda web integrada, pero no desaparece: es consecuencia directa del funcionamiento de estos modelos, no un fallo de programación que alguien pueda parchear. Lo razonable es asumir que va a seguir ahí y trabajar con el método: dar tú el material, autorizarlo a decir «no lo sé» y verificar según el tipo de dato.
¿Cómo sé si me está inventando algo?
Las señales más útiles: precisión sospechosa —cifras con decimales sin fuente—, que la respuesta sea exactamente lo que querías oír, que cambie si preguntas lo mismo en una conversación nueva, y que no pueda decirte de dónde lo sacó. Las dos pruebas rápidas: pregúntale lo contrario de lo que preguntaste, y repite la pregunta en otra conversación. Si en cualquiera de las dos la respuesta se mueve, no lo sabe.
¿Sirve pedirle que cite sus fuentes?
Sirve solo si abres los enlaces. Si no tiene búsqueda web activada, puede inventarse las fuentes con la misma facilidad que el dato: autores reales con títulos falsos, revistas reales con números inventados, enlaces que no llevan a ninguna parte. Con búsqueda activada, las fuentes suelen ser reales, pero aun así el resumen puede cambiar un matiz importante. La comprobación de diez segundos —abrir el enlace y ver si dice lo que afirma— atrapa muchísimos errores.
¿Qué le puedo preguntar sin verificar?
Todo lo que trabaje sobre material que tú le diste: reescribir un texto tuyo, resumir un documento que subiste, traducir, ordenar ideas, dar estructura, criticar tu borrador. Ahí la información sale de ti y el riesgo de invención es bajo. Lo que siempre se verifica son los datos concretos: cifras, fechas, artículos de ley, citas, precios, requisitos de trámites y cualquier nombre propio poco conocido.
¿Alucinan todas igual: ChatGPT, Gemini, Claude?
Todas lo hacen, con diferencias de grado que cambian con cada versión y que no vale la pena memorizar. Claude tiende a admitir la incertidumbre con algo más de frecuencia, y las herramientas con búsqueda web activada aciertan más en datos actuales. Pero ninguna está libre, y la protección real no es elegir la herramienta correcta: es el método de verificación según el tipo de dato.
La IA no consulta datos: predice el texto más probable, y por eso falla justo en lo concreto —artículos de ley, cifras, citas, precios— con exactamente el mismo aplomo que cuando acierta. No puedes usar tu sensación de confianza para juzgarlo. Usa la regla de las tres categorías: verde si trabaja sobre material que tú diste, amarillo si es conocimiento general, rojo si es un dato concreto, y el rojo se verifica siempre en la fuente. Y el hábito que más reduce el problema: en vez de preguntarle qué dice un documento, súbeselo.
