Le pediste a ChatGPT los horarios de autobuses de Guadalajara a Puerto Vallarta. Te dio cinco salidas con precios exactos y nombres de líneas. Sonaba perfecto. Llamaste a la terminal y descubriste que tres de esas corridas no existen. Acabas de experimentar una alucinación de IA, un problema técnico que puede costarte dinero, tiempo o algo peor cuando confías en estas herramientas para decisiones importantes.

La IA no sabe nada (pero suena como si supiera todo)

Una alucinación ocurre cuando un modelo de lenguaje inventa información y la presenta con total seguridad. No es un error de programación. Es parte de cómo funciona el sistema.

ChatGPT, Gemini y Claude no consultan una base de datos de hechos verificados. No saben nada en el sentido tradicional. Predicen qué palabra debería seguir según patrones aprendidos de millones de textos. Completan frases según lo que suena estadísticamente probable, no según lo que es verdadero.

Imagina un vendedor de mercado que aprendió a describir productos solo escuchando conversaciones de otros vendedores. Nunca vio la mercancía. Puede describirte el mejor chile habanero de Yucatán con todo detalle: color, picor, origen. Suena convincente. Pero ese chile específico nunca existió en su puesto. Así trabaja la IA: construye respuestas que parecen correctas sin verificar si lo son.

Cuando ChatGPT genera una respuesta sobre medicina, leyes o finanzas, sigue patrones lingüísticos que aprendió. Si el patrón sugiere un medicamento específico para diabetes tipo 2, el modelo lo generará. No importa si ese medicamento no existe o está contraindicado. El modelo busca que el texto suene coherente. No busca que sea verdadero.

Los modelos no distinguen entre realidad y patrón. Construyen respuestas que suenan correctas sin verificar si lo son.

Cuando la IA inventa tratamientos que matan

El riesgo real aparece cuando usas IA en contextos donde la precisión es crítica y las consecuencias del error son graves.

En 2023, un modelo de IA recomendó un tratamiento para una condición cardíaca. Incluía un medicamento descontinuado en 2019 por efectos adversos graves. El sistema generó la respuesta con total confianza. Añadió dosis y contraindicaciones que sonaban médicamente correctas.

Si un profesional de salud del IMSS o ISSSTE usa IA para consultar protocolos sin verificar, las consecuencias pueden ser mortales. Si un paciente busca información médica en ChatGPT y confía ciegamente, el riesgo es el mismo. La IA puede inventar síntomas, diagnósticos y tratamientos que suenan médicamente válidos pero son completamente falsos.

En finanzas, un modelo de lenguaje puede generar análisis detallado sobre empresas mexicanas que no cotizan en bolsa. Puede crear métricas de rendimiento ficticias. Puede inventar regulaciones de la Comisión Nacional Bancaria que nunca existieron. Todo presentado con gráficos, porcentajes y terminología técnica impecable.

Para alguien tomando decisiones de inversión o desarrollando estrategia en Banco Azteca o Nu, confiar en estos datos sin contrastar puede resultar en pérdidas económicas significativas o incumplimiento de regulaciones reales.

Los casos legales que ChatGPT inventó (y un juez creyó)

En junio de 2023, un juez federal en Nueva York impuso sanciones de 5,000 dólares a abogados que presentaron un documento legal citando seis casos jurisprudenciales completamente inventados por ChatGPT. Los casos incluían nombres ficticios como Varghese, Shaboon, Petersen, Martinez, Durden y Miller. Todos con fechas, tribunales y precedentes legales fabricados pero redactados en formato legal correcto.

En diciembre de 2023, Michael Cohen admitió en una corte de Manhattan que había proporcionado a su abogado referencias legales generadas por Google Bard. Resultaron ser autoridades completamente ficticias. Estas aparecieron en documentos presentados ante el tribunal.

En México, usar IA para investigación legal sin verificación podría llevar a citar artículos constitucionales inexistentes. Podría inventar jurisprudencia falsa. Podría generar interpretaciones legales que nunca existieron. El sistema genera lo que suena jurídicamente coherente, no lo que es legalmente válido.

Qué hacen las empresas para reducir las alucinaciones

Las compañías de IA saben que las alucinaciones son su mayor debilidad técnica y reputacional. Están implementando tres estrategias principales. Ninguna elimina el problema completamente.

OpenAI, Google y Anthropic desarrollaron pruebas específicas para medir qué tan frecuentemente sus modelos alucinan. Estos benchmarks incluyen preguntas con respuestas verificables en bases de datos cerradas. Un modelo que acierta 95% sigue fallando 1 de cada 20 respuestas. Es suficiente para generar problemas graves en aplicaciones críticas.

El desafío es que estas métricas solo capturan alucinaciones obvias. No detectan errores sutiles como fechas incorrectas, nombres cambiados o matices legales mal interpretados.

Algunas aplicaciones empresariales implementan capas de verificación. El modelo genera una respuesta. Luego un segundo sistema busca evidencia en fuentes confiables para confirmar o descartar la información. Si no encuentra respaldo, marca la respuesta como no verificada.

Microsoft Copilot, por ejemplo, intenta anclar respuestas a documentos específicos para reducir invenciones. Pero estos sistemas agregan latencia y costo computacional. No funcionan para preguntas cuya respuesta no está en la base de datos de verificación.

Otra estrategia es entrenar modelos sobre dominios específicos con datos curados. Un modelo médico entrenado solo en literatura científica revisada tiene menos oportunidad de alucinar que uno entrenado en todo internet. Pero pierde versatilidad. Sigue siendo susceptible a combinar información real de formas que producen conclusiones falsas.

Cómo usar IA de forma responsable

La solución no es abandonar estas herramientas. Es entender sus límites y aplicar protocolos de verificación. Con las estrategias empresariales aún en desarrollo, la responsabilidad recae en los usuarios. Estas son las prácticas esenciales para reducir riesgos.

Regla de oro: nunca confíes sin verificar

Trata cualquier respuesta de IA como un primer borrador que requiere fact-checking. Si la IA te da tres referencias bibliográficas, búscalas. Si menciona una ley mexicana, consúltala en el Diario Oficial. Si sugiere un tratamiento médico, contrasta con fuentes médicas oficiales de la Secretaría de Salud.

Nunca uses IA para generar contenido médico, legal o financiero que vaya directo al cliente o usuario final sin revisión por un profesional del área.

Cuándo sí usar IA y cuándo no

Usa IA para tareas donde la creatividad importa más que la precisión factual exacta. Lluvia de ideas. Borradores iniciales. Explicaciones de conceptos generales. Generación de código como punto de partida. El error aquí es tolerable y fácil de detectar.

Evita IA para tareas donde un solo error tiene consecuencias graves. Diagnósticos médicos. Asesoría legal específica. Análisis financiero para decisiones de inversión. Información que citarás como fuente en trabajos formales. Si no puedes verificar la respuesta o las consecuencias del error son altas, no uses IA como fuente principal.

Señales de que una respuesta puede ser alucinación

La IA alucina con más frecuencia en estas situaciones:

• Le pides información muy específica o de nicho. El modelo tiene menos datos de entrenamiento en esos temas.
• Solicitas datos numéricos exactos como fechas, estadísticas o precios.
• Preguntas sobre eventos recientes, posteriores a la fecha de corte del entrenamiento.
• Pides referencias bibliográficas, nombres de estudios o casos legales específicos.
• La respuesta suena extremadamente segura pero no puedes encontrar confirmación en otras fuentes.

Si detectas estas situaciones, duplica tu nivel de verificación antes de confiar en la respuesta.

Prompts que reducen alucinaciones

Formula tus preguntas de manera que limites la invención.

Mal: ¿Cuál es el tratamiento recomendado para la diabetes tipo 2?

Mejor: Según las guías de la Secretaría de Salud de México, ¿cuáles son las opciones de tratamiento para diabetes tipo 2? Si no tienes acceso a información oficial actualizada, indícalo.

Incluir la instrucción explícita de admitir desconocimiento reduce la tendencia del modelo a inventar. No la elimina, pero la reduce.

Cómo protegerte: verificar siempre, confiar menos

Las alucinaciones no desaparecerán pronto. Son una característica estructural de cómo funcionan estos modelos, no un bug que se pueda corregir con una actualización. Los avances reducirán la frecuencia pero no eliminarán el riesgo.

Lo que sí está cambiando es la responsabilidad. Tras los casos de 2023, múltiples jueces federales emitieron órdenes exigiendo a los abogados certificar si usaron IA generativa en sus documentos. De ser así, deben atestiguar que el contenido fue verificado por un humano. Cada vez más regulaciones exigen que las empresas revelen cuándo el contenido es generado por IA y adviertan sobre limitaciones.

Para usuarios individuales y empresas, la alfabetización en IA se vuelve tan importante como la alfabetización digital básica. Entender que ChatGPT no es un oráculo sino una herramienta probabilística es el primer paso para usarla de forma inteligente y segura.

Antes de tu próxima consulta a ChatGPT sobre algo importante, pregúntate: ¿puedo verificar esta respuesta? ¿Las consecuencias de un error son graves? Si dudas en cualquiera de las dos, busca otra fuente. La IA puede amplificar tu productividad o hundirte en errores costosos. Es una herramienta poderosa, pero tu criterio sigue siendo insustituible.