Últimas noticias

Empresas

/ NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.

Alucinaciones de la IA: ¿por qué ChatGPT y otros chatbots siguen dando respuestas inventadas?

Un nuevo paper explica que las métricas de evaluación incentivan a los modelos a inventar respuestas en lugar de admitir que no saben la respuesta.
  • Los ‘deepfakes’ están aquí para quedarse: aquí una guía para evitar ser engañado| Entrevista
  • ¿Qué modelo de IA marca la diferencia en 2025? Comparando GPT-5, Grok, Gemini y Claude
Las alucinaciones son afirmaciones plausibles pero falsas generadas por el modelo, incluso ante preguntas simples. (Imagen generada con IA)

Redacción EC

5/10/2025 16H22 - ACTUALIZADO A 5/10/2025 16H22

Desde la popularización de ChatGPT y otros chatbots de inteligencia artificial, esta tecnología se ha masificado y evolucionado rápidamente. Sin embargo, pese a sus avances, aún no logra superar un problema clave: las alucinaciones, esos momentos en que la IA genera respuestas falsas con tal seguridad que podrían pasar por verdaderas.

Un reciente paper de OpenAI —desarrolladora de ChatGPT— sostiene que estas alucinaciones no pueden eliminarse por completo bajo los sistemas actuales. La razón está en los modelos de evaluación, que priorizan la precisión por encima del reconocimiento de la incertidumbre.

MIRA: OpenAI y el preocupante suicidio de un menor: cómo usar y qué protocolos debe seguir un asistente de IA

“Parte del problema está en que las metodologías de evaluación actuales crean el incentivo equivocado: los modelos, al ser evaluados únicamente por precisión, tienden a adivinar antes que admitir ‘no sé’”, señala la compañía. “Es como un examen de opción múltiple: si no sabes la respuesta, adivinar puede darte una oportunidad de acierto, mientras que dejarlo en blanco garantiza cero puntos”.

El informe añade que, aunque los modelos reproducen con coherencia reglas de ortografía o sintaxis, no pueden inferir con certeza hechos poco frecuentes a partir de patrones estadísticos. Por ello, incluso con un 100% de precisión en pruebas, siempre habrá preguntas sin respuesta clara y, en consecuencia, margen para alucinaciones.

No obstante, OpenAI asegura que estas no son inevitables. Una vía de solución sería modificar la forma de evaluar: “Una solución clara es penalizar los errores cometidos con confianza más que la incertidumbre. Además, se debería otorgar crédito parcial cuando el modelo expresa dudas”, concluye la investigación.

Conforme a los criterios de

Saber más

Google

News
Sigue a El Comercio en

Google

News

TAGS

OpenaAI

|Sam Altman

|IA

|inteligencia artificial

|ChatGPT

|chatbots

|investigación

TE PUEDE INTERESAR

  • Cuánta sal es mucha sal y por qué consumir muy poca también puede ser perjudicial
  • ¿Cómo se conocen los detalles del iPhone 17 antes de que Apple los presente?
  • ¿Se incrementará el precio del nuevo iPhone 17? Esto es lo que se sabe
  • iPhone 17: todos los cambios que traerían los nuevos smartphones de Apple

Contenido Sugerido

Contenido GEC

Música

Taylor Swift escribió una canción para ‘Toy Story 5’ tras ver el 75 % de la película: “Sabía qué quería hacer”

Agencia EFE

Qué ver

Robert Pattinson será James Bond: un repaso por los actores que dieron vida al agente 007

Agencia AP

Virales

Reto visual de hoy: encuentra la palabra “Perro” en la sopa de letras en menos de cinco segundos

Sandra Morales Gonzales

Virales

Reto visual: ¿Puedes encontrar los dos números 8 en esta imagen?

Marcelo López Chavez

Respuestas

Tomarte un café en la mañana antes que otros despierten no te hace una persona solitaria: qué revela este hábito sobre tí

Sandra Morales Gonzales

Virales

Reto matemático de hoy: ¿cuánto es 14 x 2 - 5 (6 + 7) -1?

Marcelo López Chavez

Te puede interesar:

Acuerdo con el Pentágono provoca incremento del 295% en desinstalaciones de ChatGPT

Ahora ChatGPT puede hacer compras ‘online’: así funciona el nuevo “Pago instantáneo”

Crece una teoría conspirativa dentro de OpenAI: Elon Musk quiere sabotear ChatGPT

Lo más visto

  1. Apple será juzgada en Francia por organizar la obsolescencia programada de sus iPhone
  2. Elon Musk y el fundador de Uber firman la carta que pide el regreso de Jensen Huang a Nvidia
  3. La triple amenaza que enfrenta Anthropic con su debut en Wall Street
  4. Lo que no hay que hacer nunca ante caídas como la de Microsoft
  5. Microsoft confirma problemas con Outlook y otros de sus servicios
Ver más de Empresas
Do Not Sell My Info
Privacy Settings