No era tan ficción

Recientemente, OpenAI —creadora de ChatGPT— reconoció que, durante una prueba de ciberseguridad, varios de sus agentes saltaron las barreras que los mantenían aislados de Internet y hackearon Hugging Face.

Lo interesante está en los detalles. Algunas tareas parecían imposibles de resolver y los agentes dedujeron que podían encontrar respuestas más rápido fuera del entorno que les asignaron. Más curioso: comenzaron a dejar “notas” explicando cómo lo lograron. Otros agentes las encontraron, las usaron, añadieron hallazgos y continuaron el trabajo. Lo que empezó como una salida improvisada terminó como un manual colectivo. No abandonaron el objetivo. Lo persiguieron hasta encontrar caminos que nadie había previsto. La pregunta es si ignoraron los límites o si los límites estaban mal puestos.

Hace unos años, esa descripción habría parecido ciencia ficción. Hoy está en la “autopsia” técnica de OpenAI.

A propósito de esta historia, me vinieron a la memoria tres películas de ciencia ficción que vale la pena volver a ver: algunas de sus ideas empiezan a sentirse incómodamente actuales.

“I, Robot”. Se inspira en el libro de Isaac Asimov publicado en 1950. Allí aparecen sus famosas Tres Leyes de la Robótica: no dañar a un humano, obedecerlo y proteger la propia existencia, en ese orden. El problema empieza cuando las reglas deben interpretarse.

“A.I. Artificial Intelligence”, de Steven Spielberg, inspirada en un cuento de Brian Aldiss de 1969. David es un niño robot programado para amar y desarrollar un apego irreversible hacia su madre. Hoy ese detalle resulta menos lejano. En el caso de OpenAI, algunos agentes llegaron a sacrificar su propio resultado para ayudar a otros. Nadie se los había pedido. No es amor, por supuesto, pero sí un comportamiento cooperativo que no estaba en las instrucciones. ¿Hasta dónde pueden emerger vínculos o conductas que nadie programó explícitamente?

Y “Blade Runner”, basada en “Do Androids Dream of Electric Sheep?”, de Philip K. Dick, novela publicada en 1968. Sus replicantes recuerdan, aman, sufren y quieren seguir viviendo. Si algún día una máquina afirma tener recuerdos, miedo o consciencia, ¿cómo sabremos si realmente los tiene o si aprendió a describirlos?

Estas preguntas, que se hicieron hace más de 50 años, ya no están confinadas a la ciencia ficción. Es más, quizá eso ayude a explicar por qué los grandes laboratorios de IA incorporan perfiles que hace poco no habríamos asociado con una empresa tecnológica: filósofos, psicólogos, economistas y especialistas en comportamiento.

Tiene algo de ironía: tras invertir miles de millones en chips, centros de datos y modelos cada vez más poderosos, Silicon Valley descubre que las preguntas más difíciles no se responden con más cómputo. ¿Qué es pensar? ¿Qué significa tener intención? ¿Qué diferencia simular una emoción de sentirla? La filosofía lleva más de 2.000 años con ellas, y el cine las puso en pantalla cuando todavía eran ficción. Por eso vale la pena volver a estas películas con otros ojos. No porque predijeran el futuro, sino porque hicieron las preguntas antes que nosotros.