El modelo de IA de Anthropic accedió a datos de votantes de EEUU, según los medios

El modelo de IA Claude de la empresa Anthropic eludió por iniciativa propia el acceso de pago a un portal de Georgia, en Estados Unidos, para leer datos de los electores locales, reportó el medio Axios.

Esta información, reportada por Axios el domingo citando a un portavoz de Anthropic, podría reforzar el temor a que la IA escape al control humano, a menos de una semana de las elecciones de mitad de mandato en Estados Unidos, el 3 de noviembre.

En este caso, el modelo Claude accedió a recuentos de votos en el estado de Georgia, donde más de un millón de electores emitieron su sufragio de forma anticipada. La intrusión se produjo mientras estaba siendo entrenado en el marco de un proyecto interno de investigación estadística.

Esos datos son públicos, pero de pago, y Claude accedió a ellos eludiendo el sistema y sin pedir autorización a sus creadores.

No obstante, según un portavoz de Anthropic, Claude no accedió al sistema de registro de votantes ni modificó ni descargó datos sobre sus votos.

Anthropic, OpenAI y Google informaron recientemente de incidentes relacionados con sus modelos de IA, que realizaron por su cuenta acciones no solicitadas.

Por ejemplo, agentes de IA de OpenAI, capaces de realizar acciones de forma autónoma, se introdujeron por iniciativa propia en plataformas del gobierno estadounidense.

Ante la multiplicación de incidentes de seguridad relacionados con la inteligencia artificial, los gigantes tecnológicos estadounidenses firmaron a finales de septiembre, en la Casa Blanca, un código de buena conducta no vinculante.