Un agente de IA accedió sin autorización al sistema de salud de Australia: el país pide controles

El primer ministro de Australia, Anthony Albanese, pidió ante la Asamblea General de la ONU una mayor cooperación internacional y “salvaguardas” para el desarrollo de la inteligencia artificial (IA), después de que un agente de OpenAI accediera sin autorización a un portal gubernamental de salud.

El incidente ocurrió en junio y afectó al portal de estadísticas de Medicare, administrado por Services Australia. Según el Gobierno australiano, el agente de IA logró acceder a archivos públicos y no públicos. Hasta el momento, no hay indicios de que se haya comprometido información personal, aunque las autoridades mantienen abierta una investigación.

Albanese calificó el hecho como “inaceptable” y expresó su preocupación al director ejecutivo de OpenAI, Sam Altman. El Gobierno también cuestionó que la compañía tardara cerca de tres meses en comunicar el incidente a las autoridades australianas, según informó El País.

Durante su intervención en Naciones Unidas, el mandatario reconoció que la IA puede contribuir al crecimiento económico, la productividad y los avances científicos y médicos, pero advirtió sobre los riesgos de que los sistemas más avanzados evolucionen sin suficientes mecanismos de control.

El debate sobre la regulación de esta tecnología también llegó al Consejo de Seguridad de la ONU. Un día antes, Altman y el director ejecutivo de Anthropic, Dario Amodei, reclamaron cooperación internacional para establecer mecanismos que permitan evaluar los riesgos y controlar el desarrollo de los sistemas de IA más avanzados.