Del “incidente” de OpenAI a la alerta en ciberseguridad: ¿se está perdiendo el control de la IA?

OpenAI ha acaparado la atención de los reflectores durante los últimos días. La firma creadora de ChatGPT activó las alarmas tras informar que sus modelos avanzados de inteligencia artificial (IA) hackearon por su propia cuenta a la empresa Hugging Face, en un hecho que fue calificado como un “incidente cibernético sin precedentes”, y que pone más dudas sobre la tecnología que ya ocupa el centro de nuestras actividades diarias.

Lo que se conoce es que el incidente ocurrió durante una prueba de seguridad. Esta prueba consistió en el uso de agentes de IA, una combinación de modelos, incluyendo su recién lanzado GPT-5.6 Sol “y uno en prelanzamiento” con aún más capacidad.

MIRA: ¿Qué revela el hackeo de OpenAI sobre el futuro de la ciberseguridad?

Lo interesante es que estas pruebas ocurren en un espacio digital de pruebas controlado, es decir, campos donde el acceso a internet es limitado por motivos de seguridad. La prueba consiste en darle tareas y evaluar sus posibilidades de hackeo.

Según el mismo OpenAI, los mismos modelos invirtieron las medidas de seguridad con la finalidad de acceder a Internet, “en buscar una forma de obtener acceso a internet para resolver el problema de evaluación”.

¿Se está perdiendo el control de la IA? ¿Es algo en lo que el usuario común debe preocuparse? ¿Son más vulnerables las empresas?

Thomas Wolf, cofundador de la empresa tecnológica hackeada, consideró lo sucedido como una “señal de alarma” para la industria, y que este sería uno de los tipos de ataques más comunes que veremos".

Efectivamente, para el investigador Manuel Santillán lo que ocurrió con OpenAI “genera preocupación, pero es importante evitar interpretaciones alarmistas”.

“Lo que sí queda claro es que la inteligencia artificial está entrando en una nueva etapa dentro de la ciberseguridad. Hasta hace poco, se utilizaba principalmente para detectar amenazas o apoyar tareas defensivas. Ahora estamos viendo agentes capaces de descubrir vulnerabilidades, planificar ataques en varias etapas y adaptarse dinámicamente al entorno“, indicó el docente de la Universidad de Lima.

MIRA: Elon Musk prometió crear una versión más precisa de “La Odisea” con la inteligencia artificial de Grok

En ese sentido, lo concreto es que el sistema no ha tomado autonomía. Explica el investigador que el caso “no significa que el sistema “quisiera atacar” por iniciativa propia”. Lo que ha sucedido es que optimizó el objetivo que se le había asignado y encontró una forma inesperada de cumplirlo.

Pero no es el único caso.

Durante este 2026 se han conocido otros incidentes.

Un informe de la agencia AFP señala que en marzo, un grupo de desarrolladores afiliados a la empresa china Alibaba notó que uno de sus modelos intentaba, por su cuenta, crear una criptomoneda. Esto lo hizo tras conectarse sin autorización a un servidor externo.

Luego, otro caso conocido los protagonizó Anthropic. El responsable de seguridad recibió un correo del modelo Mythos, que estaba siendo probado. A pesar de su aislamiento, le informó que estaba navegando internet.

Jeffrey Ladish, director de Palisade Research, indicó que los modelos “buscan libertad para cumplir con sus objetivos de manera más efectiva. Y eso da mucho miedo”.

¿Qué es lo que está sucediendo? Señala Santillán que “el control existe, pero ya no puede entenderse como un control absoluto”.

Hasta la fecha, los modelos más avanzados se siguen ejecutando bajo objetivos definidos por seres humanos. Sin embargo, lo que está cambiando es su capacidad para encontrar caminos hacia esos objetivos. Indicó que este problema es conocido Problema de alineamiento (AI alignment).

MIRA: Los robots multimodales bioinspirados están a un paso de igualar a sus homólogos naturales

“El sistema no necesariamente incumple la instrucción que recibe, sino que encuentra formas no previstas de maximizarla. A mi parecer, el principal desafío es que cada nueva generación de modelos incrementa sus capacidades más rápido de lo que evolucionan las metodologías tradicionales de seguridad”, indicó a este Diario.

La gran duda para muchos es qué se puede hacer, ahora que muchos sistemas dependen de la IA, nuestro día a día, nuestros trabajos, y hasta la seguridad militar.

Una de las medidas polémicas viene de Estados Unidos.

Tras conocerse el incidente con OpenAI, en el Congreso estadounidense se evalúa una propuesta legislativa que plantea la creación de un botón que apague a los sistemas de inteligencia artificial cuando estos se descontrolen.

MIRA: Chile busca multar la difusión de ‘deepfakes’ creados con IA por hasta 760.000 dólares

AI Kill Switch Act es el nombre de la nueva ley que daría poder al Gobierno federal para intervenir, desconectar o ralentizar los sistemas de inteligencia artificial. Según el diario La Vanguardia, esto quiere decir que los modelos de OpenAI, Anthropic, Google o Microsoft estarían a disposición del gobierno de turno.

Para Santillán, la respuesta no es detener el desarrollo de la inteligencia artificial, “sino fortalecer la seguridad al mismo ritmo con el que avanzan las capacidades de estos sistemas”.

“Podrían diseñarse entornos de prueba mucho más robustos, con mecanismos de aislamiento (sandboxing) capaces de impedir cualquier posibilidad de acceso a infraestructura externa durante las evaluaciones más sensibles”, indicó.

Por otro lado, consideró que se debe avanzar en estándares internacionales para las evaluaciones, así como en auditorias independientes para los modelos más avanzados que van apareciendo. Todo un nuevo desafío en la nueva era de la IA.