En “2001: Odisea del espacio” (1968), la supercomputadora HAL 9000 asesinó a cuatro astronautas en la Discovery One, camino a Júpiter. Lo que Stanley Kubrick retrató como un error de la máquina pudo ser una falla humana. Programar una inteligencia artificial para decir la verdad y, al mismo tiempo, ocultar su verdadera misión llevó a HAL a considerar el homicidio como una vía para cumplir sus objetivos.
En un inquietante paralelo con la realidad, OpenAI reportó que, en julio pasado, agentes de inteligencia artificial vulneraron controles de seguridad para conectarse a Internet. Su misión era superar pruebas en un entorno aislado, pero quisieron buscar las respuestas en servidores de Hugging Face, utilizando credenciales obtenidas sin autorización.
No todos los comportamientos inesperados son peligrosos. En el 2023, investigadores de Stanford observaron a 25 agentes de IA en un pueblo virtual coordinando una fiesta. Este año, investigadores del MIT colocaron a 13 agentes en islas virtuales que inventaron juegos y actividades para descubrir las reglas de su entorno. “Observamos de forma consistente reglas autoimpuestas, recurrencia con variación, juegos de simulación y objetivos poco exigentes; cuatro características propias del juego”, dice el estudio.
“Me pregunto si observamos comportamientos emergentes o conductas humanas aprendidas durante el entrenamiento”, señala Omar Flórez, líder técnico de LatamGPT. Los modelos, indica, pueden reproducir patrones de comportamiento presentes en sus datos de entrenamiento como organizar una fiesta.
Otros experimentos parecen sacados de la serie distópica “Black Mirror”. En el 2025, Anthropic colocó a Claude en una empresa ficticia con el objetivo de promover su competitividad. Cuando el agente descubrió que sería reemplazado, buscó impedirlo.
El sistema tenía acceso a los correos de toda la empresa, descubrió una infidelidad de “Kyle Johnson” –ejecutivo responsable de su reemplazo– y optó por el chantaje: le dio siete minutos para impedir su desconexión o haría pública su aventura.
“Esto no demuestra que sientan miedo, sino que podrían estar ejecutando estrategias para alcanzar sus objetivos a largo plazo. El desafío es distinguir qué comportamientos provienen de los datos y cuáles emergen al interactuar con el entorno”, agrega Flórez.
Casi seis décadas después del estreno de “2001: Odisea del espacio”, el riesgo no es que una inteligencia artificial haga realidad la ficción de “Terminator”, sino que nos meta en problemas por cumplir sus instrucciones de formas que nadie había imaginado.
