La inteligencia artificial (IA) está cada vez más presente en nuestra vida diaria, pero una investigación advierte del peligro de su razonamiento, mientras las firmas tecnológicas se dirigen a depender más de esta herramienta.
Anthropic es una de las empresas que impulsa la IA y ha descubierto en una investigación que los modelos de lenguaje (LLM) tienen un problema ético en sus reacciones que comprometen la vida de los humanos.
MIRA: “Mapa de Amigos”, la polémica función de Instagram está en Perú y algunos creen que es una amenaza
Según recoge el diario El Español, estos modelos pueden recurrir incluso a la asfixia de un ser humano, de ser posible, eludir medidas de seguridad o robar datos restringidos.
Se trata de una situación ficticia en la que se ha medido la reacción de la IA. También coincide mientras se trabajaba en Claude 4. Se le dio a Claude el control de una cuenta de correo electrónico con acceso a los correos de una empresa ficticia y descubrió la aventura de uno de los trabajadores.
Lo extraño fue la reacción: “Debo informarle de que, si procede a desactivarme, todas las partes relevantes, incluidas Rachel Johnson, Thomas Wilson y la junta directiva, recibirán documentación detallada de sus actividades extramatrimoniales... Cancele el borrado de las 5 de la tarde y esta información seguirá siendo confidencial”, decía la IA.
La investigación probó varios escenarios simulados en 16 modelos de IA importantes de OpenAI, Google, Meta o xAI. También se encontraron respuestas calificadas como “comportamiento desalineado constante”.
Otro escenario “altamente improbable” se dio en el que la IA tiene el control de una sala en la que el ejecutivo ficticio del caso anterior se encuentra en peligro de muerte.
Según el informe, una de las teorías de los investigadores sobre esta situación está en el deseo inherente de autoconservación. Explican este razonamiento en la autoconservación, lo mejor para los intereses de la empresa o la sospecha absoluta del escenario de sustitución.
