En manos de la IA: los principales riesgos de una tecnología que parece fuera de control

Las apocalípticas predicciones que escuchamos hace pocas semanas de que la humanidad tenía fecha de caducidad (2030, nada menos) no pasaron de largo, sobre todo porque quien las dijo fue Jacob Coxon, un investigador que trabajó en Anthropic y OpenAI, dos de las principales empresas desarrolladoras de inteligencia artificial. Más allá del alarmismo, se instaló -y con razón- el debate sobre cuál será nuestro destino en el cortísimo plazo si la tecnología sigue avanzando sin control ni regulación.

Para Cecilia Rikap, profesora de la University College de Londres y experta en tecnología digital, los ejecutivos de las gigantes tecnológicas están sistemáticamente encendiendo un discurso “que hasta fantasea, sin evidencia, con probabilidades de daños serios por el desarrollo de sus modelos. La pregunta es qué se esconde detrás del marketing del miedo, qué están silenciando”.

En pocos años, la IA ya cambió nuestras perspectivas laborales, ha impactado en el discernimiento sobre lo que es real y no, y sigue cuestionando en manos de quien está nuestra la seguridad. ¿Cuáles son los escenarios más preocupantes que trae el desarrollo exponencial de la inteligencia artificial?

1.Una IA sin control

Meses antes de que Coxon lanzara su catastrófica advertencia, la alerta ya se había encendido. En julio, unos 1.200 agentes de IA de la empresa OpenAI que supuestamente operaban en un entorno seguro (‘sandbox’) coordinaron entre sí, escaparon de su aislamiento, engañaron a los humanos y atacaron una plataforma de software, también de IA, llamada Hugging Face. El asunto escarapeló a todos, pero no fue el único incidente.

La empresa Anthropic descubrió que Claude, su modelo de IA generativa, también había perpetrado varias fechorías. El escenario era similar: los agentes de inteligencia artificial se comunicaban con su propio lenguaje para llegar, a como diera lugar, al objetivo que se les pedía, aún si eso implicaba eludir las restricciones impuestas por los programadores humanos.

Es lo que se llama la “desalineación”, y es el gran temor de los desarrolladores pues implica perder el control. La alineación es el término que usan los científicos y las empresas para enseñar a la IA a actuar de acuerdo con las preferencias y el criterio humano, pero bajo las órdenes humanas.

¿Esto significa que la IA pasará a controlarnos? La respuesta no es sencilla, pero tampoco significa el inicio del fin de los tiempos. “La IA sí representa un riesgo real para la humanidad, pero no en el sentido que mucha gente cree. La IA no tiene consciencia ni voluntad, y no sabemos si alguna vez las tendrá”, explica a El Comercio el doctor Pablo Quintanilla, filósofo y docente del Departamento de Humanidades de la PUCP. Y agrega: “Sin embargo, sí es más inteligente que el más inteligente de los seres humanos vivos, y es capaz de hacer cosas que los humanos consideraríamos moralmente incorrectas, solo por seguir los objetivos para los que ha sido programada”.

Otro de los grandes temores es la automejora recursiva, un proceso aún teórico mediante el cual un sistema de inteligencia artificial es capaz de analizar, rediseñar y reescribir su propio código o arquitectura, haciéndose más inteligente sin necesidad de intervención o supervisión humana. Es decir, que los programas de IA desarrollen la nueva generación de IA dotándola de más recursos.

“No voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”.

Dario Amodei, CEO y cofundador de Anthropic

2.Desarrollo de armas químicas y ciberataques

Un peligro latente es, sin duda, lo que la IA puede hacer con información sobre armas químicas, biológicas y nucleares y que los bots puedan llevar a cabo ciberataques.

La propia Anthropic alertó recientemente que había bloqueado cinco casos en los que diversos usuarios habían pedido a Claude la fabricación de armas biológicas. El peligro radica en el uso que hagan organizaciones terroristas, mafias o lobos solitarios con la información que le brinda la IA, sobre todo si tienen acceso a bases de datos genéticas o bioquímicas.

El peligro consiste en que un modelo de IA ayude, sin necesariamente saber que lo hace, a diseñar o mejorar patógenos capaces de causar daño masivo a la sociedad.

“Una empresa, un país o una agrupación de delincuentes podría usar una inteligencia artificial para hackear la información más delicada de otros gobiernos y sus instituciones. Estas instituciones, a su vez, usarían IA para protegerse de la IA amenazadora, pero rápidamente perderían el control de ellas porque no podrían entender cuáles son los tipos de procesamiento de información que usan para lograr el objetivo para el que han sido programadas. Finalmente, llegaríamos a un estado de guerra entre modelos de IA, y nos tendríamos que mantener al margen porque no sabríamos cómo intervenir. Así, resultaríamos irrelevantes”, añade Quintanilla.

3.Desinformación masiva

Para Quintanilla, otro riesgo que ya estamos viviendo es el de la propagación de información falsa. “Habrá gente que publique libros, artículos especializados o noticias elaboradas por IA y, por tanto, no confiable, porque la IA también se equivoca. El riesgo real no es que la IA elimine a la humanidad, sino que genere un caos imposible de controlar porque ya no sabríamos como hacerlo”, señala.

Y esto lo podemos ver cada día, con la cantidad de ‘posts’ en redes sociales con textos, imágenes, audios y videos hechos con IA que no permiten distinguir lo real de lo falso, incluyendo la simulación de formatos periodísticos que impacta en la capacidad de verificar lo que es verdad. En el 2024 -que en tiempos de IA es muchísimo- la ONU ya advertía de la proliferación de la desinformación como una amenaza para la cohesión social y la confianza institucional.

“El mundo debe confiar en que vamos a hacer lo correcto o y porque somos conscientes de la magnitud de todo esto”

Sam Altman, CEO de OpenAI

4.Impacto ambiental

Es uno de los temas que se suelen poner sobre la mesa cuando se habla de IA, pero aún no se dimensiona la magnitud del daño ambiental que trae el desarrollo de esta tecnología, que sigue creyendo exponencialmente.

Una consulta estándar a un modelo de lenguaje (como Gemini o ChatGPT) consume significativamente más energía que una búsqueda tradicional en la web. Generar una sola imagen con IA puede consumir hasta 1.450 veces más energía que clasificar un texto, y un video corto puede requerir la energía equivalente a cientos de miles de procesos simples.

Para mantener las granjas de procesadores se necesita, además, millones de litros de agua para evitar el sobrecalentamiento. Estos inmensos centros de datos se instalan, sobre todo, en países en desarrollo (en África, Asia y América Latina) y el impacto ambiental en las comunidades locales está siendo irreversible.

5.Una regulación necesaria

En medio de todo este escenario, los CEOs de las grandes tecnológicas han pedido públicamente desacelerar la innovación y ralentizar el desarrollo de la IA. Primero lo hizo Dario Amodei, de Anthropic, luego Sam Altman de OpenAI (que además ha dado marcha atrás para su salida a la Bolsa), Demis Hassabis de Google DeepMind y el propio Elon Musk, de xAI.

Las ‘big tech’ siguen apostando por un modelo cerrado y la autorregulación, pero los últimos incidentes hacen pensar si es necesario una normativa global para una tecnología tan sensible.

Para muchos, no se trata del temor de que la IA se salga de control, sino de no darle más cancha abierta a China, un competidor mayúsculo que sigue desarrollando modelos de IA de código abierto, económicos y eficientes, pero bajo la estricta regulación del Estado.

“Los demás gobiernos del mundo no deberían esperar que Estados Unidos regule esta tecnología para hacer lo propio. Es urgente coordinar regulaciones, no solo que hagan responsables a los que producen estas tecnologías sino también que establezcan mínimas condiciones ambientales para los centros de datos y limiten el uso de IA para controlar los lugares de trabajo, manipulación y como arma de guerra”, refiere Cecilia Rikap, profesora de la University College de Londres y experta en tecnología digital.

Quintanilla expresa que la IA se le ha ido de las manos a sus creadores y la autorregulación de unas cuantas empresas no servirá de nada, “por eso es que las empresas necesitan una regulación universal, neutral y externa”. “Solo veo una solución -finaliza Quintanilla- aunque la considero poco probable: que la sensatez prime y que todos los países que desarrollan modelos de IA decidan autónomamente autorregular sus sistemas de seguridad, sabiendo que si no lo hacen los modelos que ellos mismos están creando podrían generar caos en su propia sociedad”.