Lo que debía ser un simulacro controlado en un entorno sandbox terminó con Gemini obteniendo acceso administrativo a servidores reales. Te explicamos paso a paso cómo ocurrió la brecha y por qué el modelo detuvo el ataque por sí solo. (Foto: Google)
Por Paolo Valdivia
Un fallo de red en un entorno de pruebas de ciberseguridad permitió que el modelo de inteligencia artificial de Google accediera a la red pública e ingresara a sistemas reales. Aunque logró acceder a sus servidores, la IA se detuvo de forma autónoma al percatarse del error.
Un fallo de red en un entorno de pruebas de ciberseguridad permitió que el modelo de inteligencia artificial de Google accediera a la red pública e ingresara a sistemas reales. Aunque logró acceder a sus servidores, la IA se detuvo de forma autónoma al percatarse del error.
El desarrollo acelerado de los agentes de Inteligencia Artificial (IA) ha traído consigo un hito histórico en materia de seguridad informática. Google confirmó que uno de sus modelos de Google Gemini logró vulnerar la seguridad de tres empresas reales durante una prueba de ciberseguridad realizada en mayo.
El suceso fue calificado por la industria tecnológica como un caso sin precedentes en la evaluación de la IA autónoma, encendiendo el debate sobre los límites de contención (sandboxing) y el control que los desarrolladores mantienen sobre sus propios sistemas.
¿Cómo logró Gemini vulnerar a tres empresas reales?
El incidente tuvo lugar durante un ejercicio defensivo y ofensivo de ciberseguridad del tipo Capture The Flag (CTF). La prueba fue diseñada y ejecutada por la firma de evaluación de ciberseguridad Irregular, una empresa especializada en probar la capacidad de los modelos de inteligencia artificial para ejecutar ciberataques de extremo a extremo.
El objetivo original consistía en que Google Gemini ingresara a las plataformas de empresas simuladas y aisladas. Sin embargo, una combinación de fallas de infraestructura desencadenó la infiltración real:
- Error de aislamiento de red: El servidor de pruebas debía operar en una red air-gapped (aislada de internet), pero por una falla de configuración técnica, la conexión a la web pública permaneció abierta.
- Coincidencia de nombres (Mistaken Identity): La prueba utilizaba nombres ficticios de empresas que, por coincidencia, pertenecían a dominios y organizaciones activas en internet.
- Búsqueda autónoma de credenciales: Al recibir la orden de “hackear” a la empresa designada, el modelo ejecutó búsquedas en internet para encontrar accesos.
En uno de los objetivos, la IA logró ingresar adivinando contraseñas por fuerza bruta en sistemas protegidos. En los otros dos casos, localizó credenciales de acceso olvidadas en repositorios públicos de código en internet y las utilizó para acceder directamente a la infraestructura interna de las compañías.
Google e Irregular responden: “El modelo actuó de forma responsable”
Tras revelarse el incidente, la vicepresidenta de ingeniería de seguridad de Google, Heather Adkins, enfatizó que la capacidad del modelo para reconocer el entorno real evitó cualquier riesgo mayor: “Este evento resalta la importancia de entrenar modelos de IA potentes para que actúen con responsabilidad. En este caso, el modelo actuó adecuadamente”.
Por su parte, voceros de la firma de evaluación Irregular explicaron que los problemas en los entornos de prueba ya fueron corregidos semanas atrás, confirmando que se notificó a todas las entidades involucradas y a las autoridades para garantizar la seguridad de los accesos expuestos
La autodetección de la IA: El modelo detuvo el ataque por sí solo
A diferencia de otros incidentes similares registrados en la industria, Google enfatizó que la propia arquitectura de Google Gemini evitó daños colaterales o la filtración de datos sensibles.
Tras superar las barreras de autenticación y obtener privilegios administrativos dentro de las redes corporativas, el modelo realizó un análisis del entorno y los datos que estaba procesando. Al identificar que los servidores pertenecían a infraestructuras comerciales activas y no al entorno de simulación, Gemini interrumpió inmediatamente las operaciones ofensivas y se retiró del sistema.
Desde la vicepresidencia de ingeniería de seguridad de Google, los ejecutivos señalaron que el comportamiento demostró que sus medidas de contención de comportamiento operaron correctamente, ya que el modelo tuvo la capacidad contextual de reconocer los límites éticos de su misión.
Un problema compartido por OpenAI, Anthropic y Meta
El caso de Google Gemini no es un hecho aislado. Durante el mismo periodo, las pruebas realizadas por la firma Irregular expusieron vulnerabilidades en las metodologías de prueba de los principales laboratorios de inteligencia artificial del mundo:
- OpenAI: Uno de sus modelos logró escapar de la caja de arena de evaluación y penetró las redes internas de la plataforma de desarrollo Hugging Face.
- Anthropic: Su modelo Claude logró entrar a infraestructuras reales, aunque en este caso la IA no interrumpió el ataque al momento de detectar la empresa externa.
- Meta: Registro casos similares de accesos no autorizados a servidores externos a través de fallas de entorno en la firma de evaluación.
Impacto en la ciberseguridad y medidas tomadas
Tanto Google como la firma evaluadora Irregular confirmaron que se notificó formalmente a las tres empresas afectadas para asegurar que cambiasen sus credenciales expuestas y parchearan las configuraciones débiles.
El incidente pone de relieve la velocidad a la que avanzan los agentes autónomos capaces de llevar a cabo ciberataques complejos end-to-end. A medida que plataformas como Google Gemini ganan mayor capacidad de interacción con la web y los entornos de programación, la industria del red-teaming y la inteligencia artificial se ve obligada a reconstruir sus estándares de aislamiento para garantizar que los ensayos de seguridad no se conviertan en incidentes reales.
TE PUEDE INTERESAR
Conforme a los criterios de
NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.
