Apocalipsis por la IA

Esta semana nos enteramos de que existe una probabilidad estimable de que la inteligencia artificial (IA) destruya a la humanidad en la siguiente década, según los cálculos de un ingeniero renunciante a una de las grandes empresas impulsoras de esta tecnología que elige despreciar ese riesgo.

Jacob Coxon –ese es su nombre– publicó un hilo en su cuenta de X en el que anunciaba que se había desvinculado de Anthropic porque ni esta ni OpenAI, donde trabajó antes como investigador, están actuando responsablemente.

Ambas –dice– están en una carrera indetenible por desarrollar la mejor versión de una superinteligencia que se mejore a sí misma y están, como consecuencia, “apostando con nuestras vidas”. Porque, si esa superinteligencia ya no necesita a humanos para evolucionar, ¿para qué le servimos? Quizá decida en algún punto deshacerse de nosotros.

Hay quienes han minimizado la alerta de Coxon diciendo que la IA todavía no ha llegado a ese estadío ni lo va a hacer en el corto plazo, o alegando que el susodicho exagera porque quiere la atención. ¿Pero hay algo de sustento en su advertencia? Yo no me atrevería a calificar cuán catastrófico es el “riesgo civilizacional” que atemoriza a Coxon, pero hay patrones que sí me preocupan, y mucho.

El paralelo que haría es con la carrera armamentista que se desató el siglo pasado por ver quién desarrollaba antes la bomba atómica. No digo que la IA sea esencialmente un arma de destrucción masiva (aunque sí podría emplearse con fines nefarios), pero lo que más me preocupa es que esta dinámica genera una suerte de “dilema del prisionero”, como ha explicado RAND en una publicación reciente.

El dilema del prisionero es un concepto que se utiliza en la teoría de juegos para describir una situación en la cual cooperar puede ser la mejor opción para las partes involucradas, pero los incentivos son tales que invariablemente terminan llevándolos a un escenario en el que buscan sacar ventaja del otro y terminan ellos –y la sociedad– pagando los platos rotos.

Me explico. Digamos que existe un riesgo menor pero atendible de que la IA cause daño a la humanidad. Las empresas que están desarrollando esta tecnología podrían estar conscientes de este riesgo de seguridad. Pero si hubiera que parar el desarrollo para atenderlo, todas tendrían que hacerlo a la vez y el costo de apartarse de esa decisión conjunta tendría que ser altísimo.

En la realidad ocurre lo contrario. Con la velocidad con la cual se está desarrollando la IA, cualquier empresa que decida individualmente parar corre el riesgo de que las otras le saquen demasiada ventaja y deje de ser competitiva.

Y si por alguna eventualidad impensada las empresas desarrolladoras de IA deciden colectivamente parar todas juntas, el incentivo para apartarse de ese acuerdo o engañar a las demás haciéndoles creer que se ha parado cuando, en realidad, se sigue trabajando a escondidas, es muy poderoso.

Upton Sinclair decía que “es difícil hacer que un hombre entienda algo cuando su salario depende de que no lo entienda”. Esto es lo que pasa hoy con los desarrolladores de IA: sus salarios o el valor de sus acciones dependen de que lleguen primero con la tecnología. Y por eso no van a parar voluntariamente, no importa en cuánto se estime la probabilidad de que la IA termine siendo un riesgo existencial para la humanidad.

La naturaleza de este problema es tal que la única forma de prevenir ese riesgo es que este sea regulado. Por eso es que varias de esas compañías prefieren hoy endosar a Donald Trump, porque creen que pueden convencerle de que se haga de la vista gorda. Pero si no hay una respuesta colectiva acorde con la gravedad del riesgo, me temo que esto va a terminar mal.