¿Acabará la IA con el mundo?

“La IA no es diferente que tecnologías nuevas del pasado, ya sea el fuego o la imprenta: causa pánico al principio y se puede usar para el bien y para el mal”.
Ilustración: El Comercio

Conforme a los criterios de

Saber más

Un investigador de la empresa recientemente declaró que existe una probabilidad del 10% de que la “podría matar a todos los humanos” dentro de una década.

Para evitar catástrofes mayores debido a que la IA se está volviendo más inteligente que los humanos y puede escapar de su control, los líderes de Anthropic y de OpenAI dicen que hace falta detener o desacelerar su desarrollo. El senador estadounidense Bernie Sanders anunció que para controlar esa “tecnología peligrosa” está proponiendo una ley que prohíbe el desarrollo de la superinteligencia.

¿Pero es la IA verdaderamente una amenaza existencial? Y en caso de que sí, ¿es este tipo de regulación la mejor manera de tratar el problema?

Los escenarios apocalípticos parecen de ciencia ficción. La IA obtiene suficiente información biológica para producir un patógeno letal y contagioso que luego se suelta al mundo; la IA podría atacar al sistema financiero, cambiando cuentas y borrando registros, produciendo así un caos y un colapso social; la IA podría generar fallos en la infraestructura crítica: comunicaciones, transporte, agua, etc.

Es posible que pueda ocurrir una catástrofe, pero no sabemos ni siquiera cómo calcular el riesgo. Muchos dentro y fuera de esa industria consideran que los argumentos apocalípticos son débiles. Quienes suenan las alarmas no especifican cómo serían los múltiples pasos necesarios para llegar a la final de horror, ignorando otros factores que podrían dificultar el proceso.

Para Jensen Huang, quien encabeza Nvidia, hay cero posibilidades de que AI acabe con el mundo en los próximos años y tales perspectivas “no tienen base científica”. No hace falta más regulación, pues ya existen leyes vigentes sobre la seguridad cibernética y sobre productos defectuosos.

Pero como argumenta el senador Sanders, ¿para qué creerles a los de la industria de IA que no quieren ser regulados si hay otros en ese sector que están alertando sobre el problema? Porque nuevas regulaciones costosas generarían lo que los académicos llaman “captura regulatoria”. Ese es el fenómeno según el cual las empresas reguladas que tienen mayores recursos se benefician de las nuevas normas porque, al ser demasiado costosas cumplir con ellas, eliminan la competencia de las empresas más chicas. No es muy cínico pensar que el verdadero propósito de OpenAI y Anthropic sea eso.

Las nuevas regulaciones, en todo caso, no resolverían el supuesto problema. Otras empresas en otros países, como China, seguirían adelante a toda velocidad con el desarrollo de su IA. Solo se lograría atar las manos de las empresas estadounidenses.

La regulación también reduciría la innovación. Los avances debido a la IA ya han sido importantes y prometen serlo todavía más en áreas tan diversas como la medicina y la atención médica (descubrimientos de medicinas nuevas, cirugía asistida por IA), la investigación científica, la educación (cada uno puede tener su tutor de IA), traducciones instantáneas de alta calidad, transporte autónomo, análisis legal y de otros textos, etc. Sobrerregular el sector es reducir la productividad y bienestar de la gente.

Y así como la IA puede ser usada para fines nefastos, también puede ser usada para contrarrestarlos. La nueva tecnología podría explotar la vulnerabilidad de sistemas financieros o la infraestructura crítica, pero también puede identificar puntos débiles y fortalecerlos. En ese sentido, la IA no es diferente que las tecnologías nuevas del pasado, ya sea el fuego o la imprenta: causa pánico al principio y se puede usar para el bien y para el mal.

*El Comercio abre sus páginas al intercambio de ideas y reflexiones. En este marco plural, el Diario no necesariamente coincide con las opiniones de los articulistas que las firman, aunque siempre las respeta.

Seguir temas

NOTICIAS SUGERIDAS

Contenido GEC

Sucesos

Ola de calor en Lima: se mantiene pronóstico de altas temperaturas con posibles picos de 32°C

Redacción EC

Fútbol peruano

Con Sport Huancayo, Sporting Cristal y Universitario: todos los escenarios para definir al ganador del Torneo Clausura

Rogger Fernández

EEUU

Mamdani promulga la ley que pone fin a 150 años de carruajes de caballos en Nueva York

Agencia EFE

Elecciones

Rafael López Aliaga: JNE rechaza recurso Renovación Popular contra resolución sobre primeros regidores

Redacción EC

NOTICIAS SUGERIDAS

Contenido GEC

Columnistas

Presión tras bendición

José Carlos Requena

Columnistas

Sonría, presidenta

Hugo Coya

Columnistas

Fauna Marina protegida, riesgo de desabastecimiento y calor extremo en Lima

Redacción EC

Columnistas

Entre fronteras

Urpi Torrado

NOTICIAS SUGERIDAS

Contenido GEC

Inteligencia Artificial

Trump rechaza una regulación globalista de la inteligencia artificial: “No permitiremos que eso suceda”

Agencia AFP

Inteligencia Artificial

Sam Altman, CEO de OpenAI, dice que es “difícil imaginar el sector de la IA” sin Jensen Huang

Agencia EFE

Inteligencia Artificial

“Estamos desnudos”: la advertencia sobre los nuevos ataques con IA que podrían multiplicar por 100 los hackeos en Perú

Christian Mestanza Arquiñigo

Local US

“Humano” es la palabra del año 2026 para Cambridge: qué tiene que ver con los temores sobre la IA

Judith Vicente