Un fallo de red en un entorno de pruebas de ciberseguridad permitió que el modelo de inteligencia artificial de Google accediera a la red pública e ingresara a sistemas reales. Aunque logró acceder a sus servidores, la IA se detuvo de forma autónoma al percatarse del error.
El desarrollo acelerado de los agentes de Inteligencia Artificial (IA) ha traído consigo un hito histórico en materia de seguridad informática. Google confirmó que uno de sus modelos de Google Gemini logró vulnerar la seguridad de tres empresas reales durante una prueba de ciberseguridad realizada en mayo.
El suceso fue calificado por la industria tecnológica como un caso sin precedentes en la evaluación de la IA autónoma, encendiendo el debate sobre los límites de contención (sandboxing) y el control que los desarrolladores mantienen sobre sus propios sistemas.
El incidente tuvo lugar durante un ejercicio defensivo y ofensivo de ciberseguridad del tipo Capture The Flag (CTF). La prueba fue diseñada y ejecutada por la firma de evaluación de ciberseguridad Irregular, una empresa especializada en probar la capacidad de los modelos de inteligencia artificial para ejecutar ciberataques de extremo a extremo.
El objetivo original consistía en que Google Gemini ingresara a las plataformas de empresas simuladas y aisladas. Sin embargo, una combinación de fallas de infraestructura desencadenó la infiltración real:
En uno de los objetivos, la IA logró ingresar adivinando contraseñas por fuerza bruta en sistemas protegidos. En los otros dos casos, localizó credenciales de acceso olvidadas en repositorios públicos de código en internet y las utilizó para acceder directamente a la infraestructura interna de las compañías.
Tras revelarse el incidente, la vicepresidenta de ingeniería de seguridad de Google, Heather Adkins, enfatizó que la capacidad del modelo para reconocer el entorno real evitó cualquier riesgo mayor: “Este evento resalta la importancia de entrenar modelos de IA potentes para que actúen con responsabilidad. En este caso, el modelo actuó adecuadamente”.
Por su parte, voceros de la firma de evaluación Irregular explicaron que los problemas en los entornos de prueba ya fueron corregidos semanas atrás, confirmando que se notificó a todas las entidades involucradas y a las autoridades para garantizar la seguridad de los accesos expuestos
A diferencia de otros incidentes similares registrados en la industria, Google enfatizó que la propia arquitectura de Google Gemini evitó daños colaterales o la filtración de datos sensibles.
Tras superar las barreras de autenticación y obtener privilegios administrativos dentro de las redes corporativas, el modelo realizó un análisis del entorno y los datos que estaba procesando. Al identificar que los servidores pertenecían a infraestructuras comerciales activas y no al entorno de simulación, Gemini interrumpió inmediatamente las operaciones ofensivas y se retiró del sistema.
Desde la vicepresidencia de ingeniería de seguridad de Google, los ejecutivos señalaron que el comportamiento demostró que sus medidas de contención de comportamiento operaron correctamente, ya que el modelo tuvo la capacidad contextual de reconocer los límites éticos de su misión.
El caso de Google Gemini no es un hecho aislado. Durante el mismo periodo, las pruebas realizadas por la firma Irregular expusieron vulnerabilidades en las metodologías de prueba de los principales laboratorios de inteligencia artificial del mundo:
Tanto Google como la firma evaluadora Irregular confirmaron que se notificó formalmente a las tres empresas afectadas para asegurar que cambiasen sus credenciales expuestas y parchearan las configuraciones débiles.
El incidente pone de relieve la velocidad a la que avanzan los agentes autónomos capaces de llevar a cabo ciberataques complejos end-to-end. A medida que plataformas como Google Gemini ganan mayor capacidad de interacción con la web y los entornos de programación, la industria del red-teaming y la inteligencia artificial se ve obligada a reconstruir sus estándares de aislamiento para garantizar que los ensayos de seguridad no se conviertan en incidentes reales.
Contenido GEC
Contenido GEC