Las grandes compañías tecnológicas se comprometen a desarrollar sistemas de IA seguras

Las grandes empresas tecnológicas estadounidenses han aceptado las medidas de seguridad sobre el desarrollo de inteligencia artificial (IA) propuestas por la Casa Blanca, según anunció este viernes el Gobierno estadounidense.

Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, compañías que están desarrollando tecnologías de IA, se han comprometido a adoptar “de forma inmediata” medidas para asegurar que “la innovación no se produce a expensas de los derechos y seguridad de los estadounidenses”, señaló la Casa Blanca en un comunicado.

MIRA: Estos son los trabajos que no serán reemplazados por la inteligencia artificial

El presidente de Estados Unidos, Joe Biden, declaró tras el anuncio que el compromiso de las siete compañías “es un paso prometedor” pero que es necesario más trabajo ante el potencial y riesgo que la nueva tecnología supone.

Biden reconoció que está “asombrado” de los cambios que en los próximos años la IA supondrá para la economía, la ciencia y la sociedad.

“Veremos más cambios tecnológicos en los próximos diez años, o en menos años, que los que hemos experimentado en los pasados 50. Francamente, ésto ha sido una revelación asombrosa para mí”, afirmó.

MIRA: La amenaza de los deepfake: ¿cómo funcionan y qué podemos hacer para protegernos de ellos?

El presidente también insistió en la necesidad de que el Congreso apruebe leyes, con el apoyo de demócratas y republicanos, para la protección de los datos de los ciudadanos.

“Tenemos que estar vigilantes ante las amenazas que nuevas tecnologías pueden suponer a nuestra democracia y nuestros valores”, concluyó.

El acuerdo voluntario supone que las siete compañías se comprometen a realizar pruebas internas y externas de sus sistemas de IA antes de hacerlos públicos, así como a compartir información con otras empresas, Gobiernos, sociedad civil y el mundo académico sobre la gestión de los riesgos que plantea la IA.

MIRA: Los cinco mejores distritos de Lima para vivir, según ChatGPT

Además, las tecnológicas estadounidenses desarrollarán los sistemas de IA con la seguridad como prioridad y ofrecerán garantías al público con el etiquetado de los contenidos generados con IA, la investigación sobre los riesgos que supone para la sociedad y el desarrollo de sistemas que “ayuden a responder a los mayores desafíos” de la humanidad.

La Administración de Biden también dijo que está trabajando para que los compromisos voluntarios de las compañías estadounidenses se traduzcan en un “sólido marco internacional que gobierne el desarrollo y uso de la IA” y añadió que ya ha mantenido consultas con países como Brasil, Canadá, Corea del Sur, Francia, Alemania, India, Israel, Japón, México y el Reino Unido.

MIRA: ChatGPT ahora podrá recordar quién eres y qué es lo que te gusta gracias a una nueva función

Desde que OpenAI lanzó al público el sistema ChatGPT, científicos, políticos y filósofos, así como organizaciones de defensa de los derechos humanos, han advertido de la amenaza que la IA puede suponer para la humanidad.

El martes, los países miembros del Consejo de Seguridad de la ONU destacaron los peligros de una aplicación militar de la inteligencia artificial.

En este sentido, el secretario general de la ONU, António Guterres, reiteró que el futuro desarrollo de la IA debe estar “gobernado” por una entidad dependiente de Naciones Unidas.