¿Acabará la IA con el mundo?

Un investigador de la empresa Anthropic recientemente declaró que existe una probabilidad del 10% de que la inteligencia artificial “podría matar a todos los humanos” dentro de una década.

Para evitar catástrofes mayores debido a que la IA se está volviendo más inteligente que los humanos y puede escapar de su control, los líderes de Anthropic y de OpenAI dicen que hace falta detener o desacelerar su desarrollo. El senador estadounidense Bernie Sanders anunció que para controlar esa “tecnología peligrosa” está proponiendo una ley que prohíbe el desarrollo de la superinteligencia.

¿Pero es la IA verdaderamente una amenaza existencial? Y en caso de que sí, ¿es este tipo de regulación la mejor manera de tratar el problema?

Los escenarios apocalípticos parecen de ciencia ficción. La IA obtiene suficiente información biológica para producir un patógeno letal y contagioso que luego se suelta al mundo; la IA podría atacar al sistema financiero, cambiando cuentas y borrando registros, produciendo así un caos y un colapso social; la IA podría generar fallos en la infraestructura crítica: comunicaciones, transporte, agua, etc.

Es posible que pueda ocurrir una catástrofe, pero no sabemos ni siquiera cómo calcular el riesgo. Muchos dentro y fuera de esa industria consideran que los argumentos apocalípticos son débiles. Quienes suenan las alarmas no especifican cómo serían los múltiples pasos necesarios para llegar a la final de horror, ignorando otros factores que podrían dificultar el proceso.

Para Jensen Huang, quien encabeza Nvidia, hay cero posibilidades de que AI acabe con el mundo en los próximos años y tales perspectivas “no tienen base científica”. No hace falta más regulación, pues ya existen leyes vigentes sobre la seguridad cibernética y sobre productos defectuosos.

Pero como argumenta el senador Sanders, ¿para qué creerles a los de la industria de IA que no quieren ser regulados si hay otros en ese sector que están alertando sobre el problema? Porque nuevas regulaciones costosas generarían lo que los académicos llaman “captura regulatoria”. Ese es el fenómeno según el cual las empresas reguladas que tienen mayores recursos se benefician de las nuevas normas porque, al ser demasiado costosas cumplir con ellas, eliminan la competencia de las empresas más chicas. No es muy cínico pensar que el verdadero propósito de OpenAI y Anthropic sea eso.

Las nuevas regulaciones, en todo caso, no resolverían el supuesto problema. Otras empresas en otros países, como China, seguirían adelante a toda velocidad con el desarrollo de su IA. Solo se lograría atar las manos de las empresas estadounidenses.

La regulación también reduciría la innovación. Los avances debido a la IA ya han sido importantes y prometen serlo todavía más en áreas tan diversas como la medicina y la atención médica (descubrimientos de medicinas nuevas, cirugía asistida por IA), la investigación científica, la educación (cada uno puede tener su tutor de IA), traducciones instantáneas de alta calidad, transporte autónomo, análisis legal y de otros textos, etc. Sobrerregular el sector es reducir la productividad y bienestar de la gente.

Y así como la IA puede ser usada para fines nefastos, también puede ser usada para contrarrestarlos. La nueva tecnología podría explotar la vulnerabilidad de sistemas financieros o la infraestructura crítica, pero también puede identificar puntos débiles y fortalecerlos. En ese sentido, la IA no es diferente que las tecnologías nuevas del pasado, ya sea el fuego o la imprenta: causa pánico al principio y se puede usar para el bien y para el mal.