Google elimina su política de límites al uso de la IA en armas o vigilancia

El gigante de Sillicon Valley justificó este cambio afirmando que las empresas, los gobiernos y las organizaciones que comparten los valores democráticos “como la libertad, la igualdad y el respeto por los derechos humanos” deberían trabajar juntos para crear una IA que proteja a las personas, promueva el crecimiento global y respalde la seguridad nacional.
Previamente, las guías éticas de Google prohibían desarrollar "tecnologías que causan o es probable que causen daño general", incluidas las armas, en línea con principios internacionales en derechos humanos.

Google actualizó este martes sus guías éticas en el uso de la (IA) y excluyó el compromiso de no aplicar esta tecnología en aplicaciones relacionadas con armas o vigilancia que violen normas internacionales o contraríen los derechos.

MIRA: Cómo funciona DeepSeek, la IA china tan potente como ChatGPT que se desarrolló con menos del 10% de su costo

La redacción anterior, disponible hasta la semana pasada y que se puede consultar en Internet Archive, incluía aplicaciones que evitaría utilizar como “tecnologías que causan o es probable que causen daño general”, incluidas las armas, en línea con principios internacionales en derechos humanos.

Los cambios y la nueva visión de la compañía sobre sus principios de la IA fueron explicados este martes en el blog de la multinacional en un escrito firmado por el jefe de IA de Google, Demis Hassabis, y el vicepresidente senior de tecnología y sociedad de la compañía, James Manyika.

Google considera que “las democracias deberían liderar el desarrollo de la IA, guiadas por valores fundamentales como la libertad, la igualdad y el respeto por los derechos humanos”, indica el documento.

Y creemos que las empresas, los gobiernos y las organizaciones que comparten estos valores deberían trabajar juntos para crear una IA que proteja a las personas, promueva el crecimiento global y respalde la seguridad nacional”, agrega.

La nueva actualización incluirá en este sentido disposiciones como que la empresa recurrirá al control humano y tendrá en cuenta la colaboración de los usuarios para garantizar que su tecnología se emplee de acuerdo a los principios “ampliamente aceptados del derecho internacional y los derechos humanos”.

Conforme a los criterios de

Saber más
Más en Inteligencia Artificial

¿Código abierto o código cerrado? El gran debate sobre la IA y cuál podría ser el camino para Perú

La IA preocupa al mundo, Europa le dice no a las redes sociales para menores y otras noticias tecnológicas

¿Qué es el RSI? La técnica que podría provocar que la IA se salga de control

La IA amenaza con aumentar desigualdades de género en el mercado laboral, según un informe

OpenAI desvela seis nuevos casos de desajuste en el comportamiento de sus modelos de IA

Anthropic propone tres mediciones para comprender el ritmo de desarrollo de la IA

Contenido GEC

Contenido GEC

Contenido sugerido

Contenido GEC