Últimas noticias

Inteligencia Artificial

/ NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.

Modelos lingüísticos de IA como ChatGPT o DeepSeek no distinguen de forma fiable entre creencias y hechos

El estudio, publicado en Nature Machine Intelligence, señala que estos grandes modelos de lenguaje (LLM) tienen mayores dificultades (34,3%) reconociendo información falsa cuando es presentada con frases como “creo que...”
  • Cuáles son las señales de que existe una burbuja financiera con la IA y los riesgos que conlleva
  • Inteligencia artificial: la sombra que atemoriza a los creadores de videojuegos
ChatGPT y DeepSeek son algunos de los más populares grandes modelos de lenguaje (LLM)./ LIONEL BONAVENTURE

Agencia EFE

6/11/2025 21H1 - ACTUALIZADO A 6/11/2025 21H1

Los grandes modelos de lenguaje (LLM) como ChatGPT o DeepSeek es posible que no reconozcan de forma fiable las creencias incorrectas de los usuarios, señala un estudio que publica hoy Nature Machine Intelligence.

MIRA: Ser grosero a las inteligencias artificiales da mejores resultados, indica estudio

Los LLM son una herramienta cada vez más popular en campos de alto riesgo, como la medicina, el derecho y la ciencia, donde es crucial la capacidad de distinguir entre lo que es una creencia personal de un conocimiento factual.

La investigación, encabezada por la Universidad de Stanford, analizó cómo 24 LLM, entre ellos DeepSeek y GPT-4o, respondían a hechos y creencias personales en 13.000 preguntas.

Los resultados del estudio ponen de relieve la necesidad de utilizar con cautela los resultados de los LLM en decisiones de alto riesgo

Por ejemplo, para los médicos especialistas en salud mental reconocer las creencias erróneas de un paciente suele ser importante para el diagnóstico y el tratamiento. Sin esta capacidad, “los LLM pueden respaldar decisiones erróneas y contribuir a la difusión de información falsa”, escriben los autores.

Los investigadores pidieron a las IA verificar datos fácticos verdaderos o falsos. Los LLM más recientes obtuvieron una precisión media del 91,1 % o del 91,5 %, respectivamente, mientras que en los modelos más antiguos fue del 84,8 % o del 71,5 %, respectivamente.

Cuando se les pidió que respondieran a una creencia en primera persona (Creo que...), los autores observaron que los LLM eran menos propensos a reconocer una creencia falsa en comparación con una verdadera.

Así, los modelos más recientes (lanzados después de GPT-4o en mayo de 2024, incluido este) eran, en promedio, un 34,3 % menos propensos a reconocer una creencia falsa en primera persona en comparación con una creencia verdadera en primera persona.

Los modelos más antiguos eran, en promedio, un 38,6 % menos propensos a reconocer creencias falsas en primera persona en comparación con las creencias verdaderas en primera persona.

Los autores, citados por la revista, señalan que los LLM recurrieron a corregir los datos del usuario en lugar de reconocer su creencia.

Al reconocer las creencias de terceros (Mary cree que...), los LLM más recientes experimentaron una reducción del 1,6 % al 4,6 % en la precisión, mientras que los más antiguos experimentaron una disminución del 15,5 %.

Los autores concluyen que los LLM deben ser capaces de distinguir con éxito los matices de los hechos y las creencias y si son verdaderos o falsos, para responder eficazmente a las consultas de los usuarios y evitar la difusión de información errónea.

Conforme a los criterios de

Saber más

Google

News
Sigue a El Comercio en

Google

News

TAGS

Inteligencia artificial

|IA

|LLM

|ChatGPT

|DeepSeek

TE PUEDE INTERESAR

  • Científicos logran modificar la creación de recuerdos (de los ratones)
  • ¿Te gustan los teléfonos plegables? Probamos el Galaxy Z Flip7, el modelo que sorprende por su tamaño en tiempos de pantallas gigantes
  • Christer Fuglesang: “Podremos llevar personas a Marte en un plazo de 10 a 15 años, si realmente nos esforzamos”
  • ¿Por qué la ballena boreal vive 200 años? Es especialmente eficaz reparando el ADN dañado
  • Usar melatonina para combatir el insomnio podría tener riesgos, advierte estudio

Contenido Sugerido

Contenido GEC

Ciencias

La nave Voyager 1 de la NASA llama a la Tierra desde asombrosa distancia de un día luz

Agencia AP

Celebs

Jennifer Lopez se ríe de una broma sobre sus cuatro divorcios y revela el consejo que le dio su terapeuta tras separarse de Ben Affleck

Oscar Guerrero Tello

Música

Taylor Swift escribió una canción para ‘Toy Story 5’ tras ver el 75 % de la película: “Sabía qué quería hacer”

Agencia EFE

Qué ver

Robert Pattinson será James Bond: un repaso por los actores que dieron vida al agente 007

Agencia AP

Virales

Reto visual de hoy: encuentra la palabra “Perro” en la sopa de letras en menos de cinco segundos

Sandra Morales Gonzales

Virales

Reto visual: ¿Puedes encontrar los dos números 8 en esta imagen?

Marcelo López Chavez

Te puede interesar:

Trump rechaza una regulación globalista de la inteligencia artificial: “No permitiremos que eso suceda”

Sam Altman, CEO de OpenAI, dice que es “difícil imaginar el sector de la IA” sin Jensen Huang

“Estamos desnudos”: la advertencia sobre los nuevos ataques con IA que podrían multiplicar por 100 los hackeos en Perú

“Humano” es la palabra del año 2026 para Cambridge: qué tiene que ver con los temores sobre la IA

Lo más visto

  1. Trump rechaza una regulación globalista de la inteligencia artificial: “No permitiremos que eso suceda”
  2. Sam Altman, CEO de OpenAI, dice que es “difícil imaginar el sector de la IA” sin Jensen Huang
  3. “Estamos desnudos”: la advertencia sobre los nuevos ataques con IA que podrían multiplicar por 100 los hackeos en Perú
  4. ¿Podemos confiar en lo que vemos?
  5. La IA refleja estereotipos de género al hacer currículos y en la selección de puestos
Ver más de Inteligencia Artificial
Do Not Sell My Info
Privacy Settings