OpenAI cree haber encontrado la solución a las alucinaciones de la IA

Las “alucinaciones” (respuestas incorrectas o inventadas generadas por modelos de inteligencia artificial) han sido durante mucho tiempo una de las principales barreras para confiar plenamente en sistemas como ChatGPT. Ahora, OpenAI cree haber entendido una de las causas de este problema y propone un método de entrenamiento para mitigarlo, una mejora que ya está aplicando en su nuevo modelo, GPT-5.

¿Por qué “alucinan” los modelos de lenguaje?

Al entrenar un modelo como GPT-5, OpenAI utiliza grandes cantidades de texto para que aprenda la distribución del lenguaje: cómo se usan las palabras, cómo se encadenan ideas, cuál es la probabilidad de que una frase tenga sentido en función del contexto… cosas que se usan también en otros lenguajes, como las inteligencias artificiales generativas que se usan en los juegos de ruleta online.

Sin embargo, ese aprendizaje se centra siempre en presentar ejemplos válidos del uso del lenguaje. No hay un reconocimiento explícito de “esta afirmación es falsa” o “esta respuesta no lo sé”. Eso genera lo que llama OpenAI una presión para “adivinar” o producir algo plausible, incluso cuando la respuesta correcta es que no hay información suficiente para estar seguro. Es un problema que puede ocurrir en diferentes estancias: si ChatGPT no estuviera instruido en estrategia ruleta, podría decir cualquier cosa aunque no tuviera sentido alguno. En ese caso estaríamos ante una alucinación.

La solución propuesta: “Is-It-Valid”

Para abordar este defecto estructural, OpenAI ha añadido en su método de entrenamiento una nueva clasificación binaria llamada Is-It-Valid (IIV), que sirve para enseñar al modelo a distinguir no solo entre respuestas correctas o incorrectas, también a reconocer cuándo debe abstenerse a responder.

En la práctica, esto significa que en lugar de “arriesgarse” a dar una respuesta basada en inferencias dudosas, el modelo puede indicar algo como “no lo sé” o decidir que la respuesta solicitada no es válida.

Más abstenciones, menos errores

OpenAI ya incorpora este enfoque en GPT-5. En las pruebas de evaluación, GPT-5 tiene una tasa de abstenciones mucho más alta (en torno al 52%) que modelos anteriores como o4-mini, que estaba en el 1%.

Esto no significa que GPT-5 acierte siempre más que los anteriores, pero sí que comete menos errores graves cuando alucina. Porque muchas veces esos fallos provienen de responder algo incorrecto con demasiada seguridad, en lugar de reconocer la incertidumbre.

Cambiar los incentivos del entrenamiento

Otro elemento clave del estudio es que los “benchmarks” y las fichas técnicas de los modelos se concentran siempre en la tasa de aciertos, dejando de lado cuán grave es un error o las posibles consecuencias de las alucinaciones que tienen. Para eso, OpenAI propone un cambio: penalizar los errores más que la simple incertidumbre. Es decir, que contestar mal tenga consecuencias mayores que no responder cuando no se tiene suficiente información. Así, el modelo aprende a abstenerse si no está lo suficientemente seguro, en lugar de generar contenido incorrecto con riesgo.

¿Qué significa esto para el futuro de la IA confiable?

Si este enfoque se termina generalizando en torno a las empresas de IA, puede suponer un avance importante para las aplicaciones más sensibles de esta tecnología, como generar contenido educativo, asesoramiento médico, jurídico o técnico, donde una respuesta equivocada puede tener consecuencias fatales. Si se bajan las alucinaciones, mejora la precisión de las propias IAs, pero también la confianza del usuario en ellas.