Armas autónomas: los riesgos del avance de los ‘robots asesinos’
El desarrollo y proliferación de las armas que actúan sin intervención humana directa ha ampliado el debate sobre los peligros y desafíos éticos en su utilización. La ONU y la Cruz Roja urgen a los países a imponer límites y restricciones a este tipo de tecnología.
Este resumen es generado por inteligencia artificial y revisado por la redacción.
Hay arsenales cada vez más sofisticados, así como guerras que sirven de excusa para usarlos. Una combinación peligrosa cuando el avance de la tecnología y la inteligencia artificial (IA) está propiciando el desarrollo acelerado de las armas autónomas, aquellas que seleccionan y atacan a sus objetivos sin la necesidad de una intervención humana directa. Se les dice “robots asesinos” y hace mucho que dejaron de pertenecer al mundo de la ciencia ficción.
Tres años atrás, la ONU y el Comité Internacional de la Cruz Roja (CICR) llamaron con urgencia a regular su desarrollo y utilización y pidieron a los Estados que prohibieran los sistemas de armas autónomas a más tardar en el 2026. Cumplido el plazo, lo único que cambió fue que “los riesgos se han intensificado”, dijeron ambas agencias en un comunicado conjunto esta semana.
Si bien no se ha confirmado su uso pleno en el campo de batalla, la tecnología bélica ha alcanzado niveles de desarrollo inéditos, con muchas naciones compitiendo discretamente para dominar este tipo de arsenales. Todo ello mientras las normas y restricciones sobre su aplicación no han tenido modificación.
“Estamos peligrosamente cerca de cruzar una línea roja moral: que las máquinas seleccionen de forma autónoma a seres humanos como objetivos”.
António Guterres (Secretario general de la ONU) y Mirjana Spoljaric (Presidenta del Comité Internacional de la Cruz Roja)
Los temores apuntan a que el juicio humano será cada vez menos necesario al momento de decidir quién es un combatiente y quién es un civil, cuándo atacar un objetivo en movimiento o cuándo defenderse de un ataque.
Simulador de combate con tanques y aviones de combate. (Foto: iStock)
/ Devrimb
Momento bisagra
El CICR explica que tanto los ejércitos como los desarrolladores de armas tienen interés en integrar el uso autónomo de la fuerza en una mayor variedad de armas, plataformas y municiones. Esto quiere decir que esta tecnología puede ser implementada en tanques y buques de guerra, aviones de combate y drones armados.
SEPA MÁS
31 de agosto empieza la sesión final de la cumbre en la que el Grupo de Expertos Gubernamentales (GGE) de la ONU definirá un informe técnico y político sobre las armas autónomas.
13.000 millones de dólares solicitó el Pentágono para sistemas autónomos en su último presupuesto.
Gisela Luján Andrade, directora y fundadora de Perú por el Desarme y miembro de Stop Killer Robots, destaca que la discusión sobre las armas autónomas –que se institucionalizó en la ONU en el 2014– ya no es de carácter preventivo. “Si bien es muy difícil que haya evidencia concreta de que haya sistemas de armas totalmente autónomas siendo utilizados en conflictos, existen reportes y evidencias sobre el uso de armas autónomas”, dice a El Comercio.
La preocupación es mayor por el factor IA. Aunque los sistemas de armas autónomas no necesariamente tienen que utilizar inteligencia artificial, la IA ya está potenciando este tipo de armas.
“Hay varios problemas en debate. El primero es la posibilidad de que ya se esté utilizando este tipo de armas. El segundo es la dificultad para identificar o determinar los grados de autonomía que tienen, y también que el avance de la inteligencia artificial puede acelerar el proceso de desarrollo de estos sistemas sin que haya una regulación clara que determine responsabilidades. Yo creo que esto último es el mayor problema, porque tú no puedes hacer responsable a una máquina de un crimen de guerra”, apunta Luján.
Esta ilustración es una representación en 3D de alta tecnología con estructura alámbrica de un dron militar o un avión de combate futurista que aparece como un holograma azul, que simboliza la vigilancia global, la tecnología aeroespacial, los sistemas de defensa basados en la inteligencia artificial y la seguridad internacional. (Imagen: iStock)
/ koto_feja
El diario “The New York Times” señala que entre las armas que ya tienen esa tecnología hay drones que identifican y atacan objetivos sin mando humano, aviones de combate autónomos que coordinan ataques a velocidades y altitudes que pocos pilotos humanos pueden alcanzar, y sistemas centrales gestionados por IA que analizan información de inteligencia para recomendar rápidamente objetivos de ataques aéreos.
Preocupación al alza
Uno de los mayores temores es que el avance de los sistemas de armas autónomas se salga de control si no se regula en el ámbito internacional. Sin embargo, un acuerdo global al respecto aún es bastante incierto.
Román Ortiz, experto en seguridad internacional y director de la firma Strategic Analysis and Consulting Group, apunta que el desarrollo de este tipo de armamento crea una tensión más aguda entre control político y efectividad militar.
“La ventaja de las armas autónomas es la reducción del tiempo entre detección y ataque. El costo es la reducción del control político sobre el uso de la fuerza. Es decir, cuando yo uso un arma, además del componente técnico, hay un componente político que evalúa si quiero o no destruir un blanco y cuáles son los costos que estoy dispuesto a asumir para destruirlo. Cuando uno le da el poder a una máquina de detectar y atacar al blanco en automático, entonces esa capacidad de decisión se elimina”, explica a este Diario.
Por eso, el analista cree que limitar el uso de las armas autónomas va a ser muy difícil, sobre todo si se considera el uso distinto que quieran darle las democracias y los gobiernos autoritarios. “Los llamados a la regulación son completamente ignorados por los Estados autoritarios, pero también existe un dilema dentro de las democracias occidentales, que se preguntan cómo una nación puede respetar, limitar, o por lo menos tener un mayor control sobre ese tipo de armamento y, a la vez, competir sobre el campo de batalla con países que no van a tener esas mismas restricciones”, concluye.
