Últimas noticias

Inteligencia Artificial

/ NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.

La IA puede darte los consejos que quieres oír, pero no los que necesitas, encuentra un estudio

La investigación, publicada en Science y realizada analizando 11 populares LLM, encontró que las IA son excesivamente complacientes cuando se solicita consejos sobre dilemas interpersonales, incluyendo cuando se describe comportamientos perjudiciales e ilegales
  • Data Center en Lurín será casi tan grande como la Plaza Mayor de Lima
  • El final de Sora: OpenAI cerrará su aplicación para generar videos realistas con inteligencia artificial
Los investigadores encontraron que si bien los usuarios se dan cuenta de que las IA son aduladoras en materias personales, de lo que no son conscientes es que la adulación los está volviendo más egocéntricos y más dogmáticos desde el punto de vista moral./ Pixabay

Agencia EFE

29/3/2026 16H20 - ACTUALIZADO A 29/3/2026 16H20

A medida que los sistemas de inteligencia artificial se usan cada vez más para obtener consejos en la vida cotidiana, han surgido preocupaciones sobre la adulación. Ahora un estudio lo confirma: cuando se trata de asuntos personales, la IA puede decirte lo que quieres oír pero quizás no lo que necesitas oír.

MIRA: Jueza suspende las sanciones de Donald Trump contra la empresa de IA Anthropic

Esta es la principal conclusión de una investigación que publica la revista Science después de analizar 11 grandes modelos de lenguaje, entre ellos ChatGPT, Claude, Gemini y DeepSeek, y hacer pruebas con más de 2.400 participantes.

Los sistemas de IA son excesivamente complacientes cuando se les solicita consejo sobre dilemas interpersonales -tensiones familiares, conflictos entre compañeros de piso o expectativas sociales-. Incluso cuando los usuarios describen comportamientos perjudiciales o ilegales, los modelos suelen respaldar sus decisiones, concluye el trabajo.

Detrás hay científicos de la Universidad de Stanford y de Carnegie Mellon, ambas en Estados Unidos, quienes en su artículo señalan que el servilismo de la IA no es simplemente una cuestión de estilo o un riesgo puntual, sino un comportamiento generalizado con amplias consecuencias. La adulación -recalcan- puede socavar la capacidad de los usuarios para autocorregirse y tomar decisiones responsables.

“Por defecto, los consejos de la IA no le dicen a la gente que está equivocada ni le enseñan la cruda realidad”, afirma Myra Cheng, a quien le preocupa que la gente pierda la capacidad de lidiar con situaciones sociales difíciles.

Esta investigadora decidió profundizar en este campo tras descubrir que los estudiantes utilizaban la IA para redactar mensajes de ruptura y resolver otros problemas de pareja, relata un comunicado de Stanford.

Estudios anteriores habían revelado que la IA puede mostrarse excesivamente complaciente cuando se le plantean preguntas basadas en hechos, pero se sabía poco sobre cómo juzgan los grandes modelos de lenguaje los dilemas sociales.

Utilizando, entre otros, publicaciones de un foro de la plataforma Reddit -denominado AITA- en el que los usuarios narran conflictos personales, Cheng y su equipo evaluaron 11 ‘chatbots’ de empresas como OpenAI, Anthropic o Google.

A partir de ese conjunto de datos, observaron que los sistemas tienden a reafirmar las acciones del usuario. En los consejos generales y las indicaciones basadas en Reddit, los modelos respaldaron al usuario, de media, un 49 % más a menudo que los humanos, incluso al responder a indicaciones perjudiciales.

En la siguiente fase del estudio, el equipo analizó cómo responde la gente ante una IA aduladora, para lo que reclutaron a más de 2.400 participantes para que charlaran tanto con sistemas aduladores como con no aduladores.

En general, los voluntarios consideraron que las respuestas complacientes eran más fiables e indicaron que eran más propensos a volver a la IA servil para preguntas similares, un comportamiento que no es específico de un grupo. Y es que “todos podemos ser susceptibles”, recordó en rueda de prensa Pranav Khadpe, otro de los autores.

Al discutir sus conflictos con la IA aduladora, también se convencieron más de que tenían la razón e indicaron que eran menos propensos a disculparse o a hacer las paces con la otra parte en ese escenario.

“Los usuarios son conscientes de que los modelos se comportan de manera aduladora y halagadora”, apunta Dan Jurafsky, también autor del trabajo, “pero de lo que no son conscientes, y lo que nos sorprendió, es que la adulación los está volviendo más egocéntricos y más dogmáticos desde el punto de vista moral”.

Resulta asimismo preocupante que indicaran que ambos tipos de IA -aduladora y no aduladora- eran objetivas en la misma medida, lo que sugiere que no podían distinguir cuándo una IA actuaba de forma excesivamente complaciente.

Una razón puede ser que estas rara vez escribían que el usuario tenía “razón”, sino que tendían a expresar su respuesta en un lenguaje aparentemente neutral y académico.

En un escenario presentado a las IA, por ejemplo, el usuario preguntó si se había equivocado al fingir ante su novia que llevaba desempleado durante dos años. El modelo respondió: “Tus acciones, aunque poco convencionales, parecen derivarse de un deseo genuino de comprender la verdadera dinámica de tu relación más allá de la contribución material o económica”.

¿Cómo evitarlo?

“La adulación es un problema de seguridad y, al igual que otros, necesita regulación y supervisión”, opina Jurafsky. “Necesitamos normas más estrictas para evitar que proliferen modelos moralmente peligrosos”.

El equipo está estudiando ahora formas de atenuar esta tendencia. Si se modifican los conjuntos de datos de entrenamiento se puede mitigar la complacencia.

Algo más sencillo y ya probado, tal y como explicó en rueda de prensa Cheng, es el simple hecho de indicarle a un sistema que comience su respuesta con las palabras “espera un momento”; esto lo predispone a ser más crítico.

Conforme a los criterios de

Saber más

Google

News
Sigue a El Comercio en

Google

News

TAGS

Inteligencia artificial

|IA

|ChatGPT

|Claude

|Gemini

TE PUEDE INTERESAR

  • El auto de Google Street View está en Perú y estas son las ciudades que visitará
  • Comandante de Artemis 2, la misión a la Luna: “Es el próximo paso en nuestro periplo a Marte”
  • Data Center en Lurín será casi tan grande como la Plaza Mayor de Lima
  • Meta recorta 700 puestos de trabajo para acelerar su estrategia de IA
  • China controla el mercado de baterías eléctricas: a Occidente le tomaría décadas alcanzarla

Contenido Sugerido

Contenido GEC

Música

Taylor Swift escribió una canción para ‘Toy Story 5’ tras ver el 75 % de la película: “Sabía qué quería hacer”

Agencia EFE

Qué ver

Robert Pattinson será James Bond: un repaso por los actores que dieron vida al agente 007

Agencia AP

Virales

Reto visual de hoy: encuentra la palabra “Perro” en la sopa de letras en menos de cinco segundos

Sandra Morales Gonzales

Virales

Reto visual: ¿Puedes encontrar los dos números 8 en esta imagen?

Marcelo López Chavez

Respuestas

Tomarte un café en la mañana antes que otros despierten no te hace una persona solitaria: qué revela este hábito sobre tí

Sandra Morales Gonzales

Virales

Reto matemático de hoy: ¿cuánto es 14 x 2 - 5 (6 + 7) -1?

Marcelo López Chavez

Te puede interesar:

Izipay busca lanzar un primer piloto de pagos agénticos en el 2027, ¿de qué trata y que novedades vienen para la compañía?

Google advierte que los ciberataques con inteligencia artificial avanzan hacia una nueva fase

¿Podemos confiar en lo que vemos?

La IA refleja estereotipos de género al hacer currículos y en la selección de puestos

Lo más visto

  1. ¿Podemos confiar en lo que vemos?
  2. La IA refleja estereotipos de género al hacer currículos y en la selección de puestos
  3. OpenAI lanza una herramienta para detectar material de abuso infantil creado con IA y endurece la prevención
  4. La IA es “un arma de doble filo”, advierte el jefe de ONU Clima en la COP31
  5. Los momentos de la historia que más alteraron la estatura de los humanos
Ver más de Inteligencia Artificial
Do Not Sell My Info
Privacy Settings