Desacelere, chofer

A inicios de la semana pasada, la alerta que hizo un investigador de Anthropic –firma enfocada en el desarrollo de inteligencia artificial (IA)– generó mucho revuelo. “Pasé los últimos tres años trabajando en investigación tanto en OpenAI como en Anthropic. Ninguna de las dos empresas está actuando de manera responsable”, dijo Jacob Coxon en X. A continuación, afirmó que ambas compañías se estaban precipitando hacia el desarrollo de una superinteligencia capaz de mejorarse a sí misma, sin sopesar el riesgo al que exponen a la humanidad.

Esta advertencia llegó semanas después de que tanto OpenAI como Anthropic anunciaron que varios de sus modelos habían logrado salir de sus entornos de prueba para obtener acceso no autorizado a sistemas informáticos. En síntesis: habían sido capaces de hackear por sí mismos, sin que nadie pudiera detenerlos. Estos incidentes, por supuesto, encendieron las alarmas sobre el control real que los líderes de la industria tienen sobre sus creaciones y la capacidad (o no) de controlarlas.

Los comentarios de Coxon fueron respaldados por Evan Hubinger, responsable científico de Anthropic, quien sentenció que la probabilidad de que la IA acabe con los seres humanos durante la próxima década supera el 10%. ¿Premonitorio o descabellado?

Lo que vino después fue inesperado: el último fin de semana, los desarrolladores de esta poderosa IA coincidieron en que había que frenar el ritmo. El primero fue Amodei (Anthropic), quien subrayó en un artículo que los modelos estaban avanzando más rápido que la capacidad de las empresas para controlarlos –evidentemente– y superaban, también, el margen de maniobra que los reguladores poseen actualmente. Amodei planteó, entre otros puntos, incorporar evaluadores externos independientes y concretar una coordinación internacional para evitar que gobiernos autoritarios, como China, utilicen la IA de forma peligrosa. Horas después, Sam Altman (OpenAI) se comprometió a adoptar la sugerencia de Amodei y Elon Musk (Grok y SpaceXAI) escribió: “Dario tiene razón”.

¿Cómo es que una industria que está en constante expansión plantea, de pronto, una desaceleración coordinada e incluso regulación, o hasta intervención gubernamental? ¿Suena de locos, no? Por eso es clave entender el contexto: tanto OpenAI como Anthropic y Grok han estado perdiendo sumas millonarias, gastando grandes cantidades de efectivo y destinando enormes sumas de dinero en entrenar modelos que aún no tienen un ‘business case’ comprobado. Es cierto, también, que Anthropic está tratando de salir a la bolsa por un valor cercano a US$2 billones, casi seis veces el PBI del Perú, y que OpenAI detuvo sus planes de cotización ante preocupaciones de seguridad. La arista del negocio no se puede aislar y no podemos descartar la existencia de intereses detrás de esta posición ‘coordinada’. ¿O acaso alguno ha anunciado realmente que está recortando su gasto en desarrollo?

A la hora de la hora, las acciones valen más que las palabras. Puede ser cierto que estos líderes están asustados por lo que la IA es capaz de hacer en corto tiempo. Pero también es verdad que: 1) el dinero es un incentivo –aquí hay mucho dinero–, 2) hay una carrera real entre EE.UU. y China por el dominio de esta tecnología. ¿Está la humanidad condenada a quedar, otra vez, en medio del fuego cruzado de estas potencias? Nos toca esperar y ver, primero, qué medidas concretas se adoptan y, segundo, en qué dirección avanza el negocio de estas firmas tecnológicas.