El Pentágono vs. Anthropic: la batalla por el uso militar de la inteligencia artificial

El Pentágono no ha ocultado sus esfuerzos por ampliar las capacidades de inteligencia artificial (IA) del Ejército de Estados Unidos, pero quiere hacerlo en sus propios términos. Desde que el gobierno de Donald Trump empezó a negociar el año pasado acuerdos con las empresas proveedoras de esa tecnología para que tengan más presencia en sistemas clasificados, Anthropic se convirtió en una piedra en el zapato para la Casa Blanca.

La empresa, con sede en San Francisco y que se consolidó como líder mundial con su chatbot Claude y su herramienta de codificación Claude Code, mostró pronto sus diferencias con el gobierno sobre los límites del uso de su tecnología en la guerra. Durante las negociaciones del contrato, Anthropic afirmó que no deseaba que su IA se utilizara para la vigilancia masiva de ciudadanos estadounidenses ni para crear armas letales autónomas que en el campo de batalla puedan decidir a quién matar o qué destruir.

El Departamento de Defensa, rebautizado como Departamento de Guerra, consideró esa posición como una afrenta. La negociación fracasó en febrero y dejó en el aire un contrato de 200 millones de dólares. Pero no solo eso. Días después de la ruptura, el jefe del Pentágono, Pete Hegseth, anunció que designaría a Anthropic como un “riesgo para la cadena de suministro”, una denominación que se suele usar contra las empresas extranjeras que representan una amenaza para la seguridad nacional.

La compañía y su director ejecutivo, Dario Amodei, denunciaron al Pentágono ante la justicia por haberle dado esa designación, afirmando que tal acción del gobierno tiene motivaciones ideológicas para perjudicarla y pone en riesgo los derechos de libertad de expresión y debido proceso.

El caso volvió a la agenda esta semana con audiencias en Washington y se ha convertido en un proceso que podría sentar importantes precedentes sobre los límites del uso gubernamental de la IA.

La empresa ha asegurado que tiene la intención de superar este choque con el Pentágono, que ve a la inteligencia artificial como una prioridad. De hecho, el Departamento de Seguridad llegó a un acuerdo a inicios de mayo con gigantes tecnológicos como xAI, OpenAI y Google, que, a diferencia de Anthropic, aceptaron emplear su tecnología para “cualquier uso legal”.

Se trata de un duro golpe para la compañía de Amodei, que en su momento fue el único modelo de inteligencia artificial disponible en mercados clasificados, apunta el diario “The New York Times”. La situación es aún más compleja si se considera que el planeta vive conflictos simultáneos.

“Nuestros soldados jamás serán rehenes de los caprichos ideológicos de las grandes empresas de tecnología”.

Pete Hegseth, secretario de Defensa de EE.UU.

“Ahora en el campo de batalla hay una enorme cantidad de data recolectada por sensores, satélites y aviones, y lo que quiere el Pentágono es usar la inteligencia artificial para encontrar métodos que permitan interpretar y ordenar esa data y tomar decisiones más rápido que el enemigo. También hay una segunda posible aplicación de esa tecnología y está centrada en interpretar toda la estrategia del enemigo para analizarla y doblegarla”, explica a El Comercio el analista internacional Roberto Heimovits.

Desde que fue fundada en el 2021 por exintegrantes de OpenAI, Anthropic se ha distanciado de sus competidoras al mostrar mayor prioridad a las garantías de seguridad y al manejo ético de la IA. Sin embargo, el debate sobre sus argumentos es muy amplio. Para Heimovits, mientras la compañía podría tener ventaja al posicionarse en contra de la vigilancia masiva de ciudadanos pues ello supondría invadir su privacidad hasta límites inconstitucionales, en el caso de las armas totalmente autónomas la complejidad es mayor.

“Nos preocupan las excepciones relativas a las armas totalmente autónomas y la vigilancia masiva interna”.

Dario Amodei, director ejecutivo de Anthropic

“El problema es la competencia internacional. El Pentágono podría decir: ‘Si nosotros no tenemos esta tecnología, otros –como Rusia, China o Corea del Norte– la van a tener’. Es un debate largo e importante. Pensemos en otros tipos de armas que han sido prohibidas, como las químicas o las biológicas. Si las potencias que tienen la tecnología para desarrollar armamento autónomo no se ponen de acuerdo, podría generarse una carrera sin límites y eso podría salirse totalmente de control”, apunta el experto.

La disputa entre Anthropic y el Pentágono también tendrá impacto en la posición de los jugadores de la IA, con OpenAI como uno de los mayores beneficiados del conflicto, apunta Jesús Véliz, periodista de tecnología e innovación, en su canal de You Tube. “Anthropic puede hablar de asuntos éticos y principios, pero viéndose presionada por el gobierno, ello le va a generar problemas. El hecho de ser considerado un agente que pone en riesgo la cadena de suministro le podría provocar observaciones de socios y sugerencias del gobierno para que se deje de trabajar con esa compañía”, dice el especialista.