¿Qué se sabe sobre el acceso de la IA de OpenAI al sistema público de salud de Australia?

Un agente de inteligencia artificial (IA) de OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia, Medicare, y consultó distintos archivos, incidente conocido en las últimas 24 horas que Camberra investiga mientras trata de determinar si otros sistemas públicos resultaron afectados.

La infiltración fue dada a conocer el miércoles por el primer ministro australiano, Anthony Albanese, en pleno debate internacional sobre la seguridad y la posibilidad de perder el control de los modelos avanzados de IA, una tecnología que se encuentra en el centro de la rivalidad entre Estados Unidos y China.

El caso coincide con recientes advertencias por parte de algunas de las principales empresas de IA sobre la necesidad de desacelerar el ritmo al que se mejoran las capacidades de los modelos, la última de ellas de Anthropic, que avisó de que la tecnología avanza hacia una dinámica de “automejora recursiva” que amenaza con catástrofes de ciberseguridad a escala global.

La infiltración se produjo el 18 de junio, cuando el agente de IA -como se conoce a los bots con cierto grado de autonomía para tomar decisiones, aprender y adaptarse, de acuerdo con la definición de Google- accedió a un portal público de estadísticas relacionadas con Medicare mientras investigaba sobre el gasto público en medicamentos.

El incidente no fue comunicado a Camberra hasta el 10 de septiembre, cuando OpenAI -desarrolladora de ChatGPT- alertó mediante correo electrónico a la agencia gubernamental que administra Medicare, Services Australia, que cinco días después notificó a los servicios de inteligencia, detalló este jueves el vice primer ministro y ministro de Defensa, Richard Marles.

El primer “intercambio técnico” entre OpenAI y Services Australia sobre el incidente tuvo lugar este martes, subrayó Marles, que ejerce de mandatario en funciones mientras Albanese participa en la Asamblea General de Naciones Unidas.

Camberra aseguró que el agente obtuvo acceso a estadísticas médicas, pero no a datos de ciudadanos que pudieran estar en el portal, que principalmente contenía información pública sobre Medicare.

Se trata de “datos agregados”, es decir, métricas globales como promedios y tendencias que no revelan información individual privada, declaró el exjefe del Departamento de Salud australiano, Stephen Duckett, a la cadena pública ABC.

OpenAI, por su parte, afirmó que en su revisión de lo ocurrido no halló pruebas de acceso a historiales de pacientes y que la información obtenida por el agente incluía estadísticas sanitarias y nombres de archivos internos.

Según la interpretación de Camberra recogida por ABC, OpenAI había asignado a un agente la tarea “benigna” de investigar el gasto público en medicamentos y el modelo de IA buscó información en Internet y llegó hasta la web australiana.

Tras formular preguntas al portal y no recibir la información que buscaba, el agente obtuvo acceso no autorizado y se apropió del contenido que perseguía conseguir, difundió el mismo medio.

El Centro Australiano de Ciberseguridad (ACSC, por sus siglas en inglés) explicó en un comunicado que el agente “identificó vulnerabilidades de forma autónoma”.

Ante lo sucedido, el Gobierno australiano anunció este jueves el inicio de una investigación sobre el incidente y la creación de un grupo de trabajo encargado de determinar, entre otras tareas, si se han infringido leyes en el contexto de lo ocurrido.

“Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de IA”, relató Marles.

El incidente se suma a otros casos recientes en los que sistemas de IA han sido utilizados para vulnerar sistemas informáticos, entre ellos un ataque por parte de agentes de IA de OpenAI entre mayo y julio de este año a la empresa Hugging Face.