Magnifica Humanitas: qué piensa sobre la IA el cofundador de Anthropic que acompañó a León XIV

Christopher Olah, cofundador de Anthropic, admitió este lunes que en el campo de la inteligencia artificial (IA) son necesarias “voces morales que los incentivos no puedan doblegar” y elogió la iniciativa del papa León XIV con su encíclica “Magnífica Humanitas”.

“Necesitamos que más sectores del mundo (...) hagan lo que su Santidad ha hecho aquí: tomarse esto en serio, observar de cerca y ayudar a orientar los acontecimientos hacia una mejor dirección”, dijo Olah ante el papa, en el acto celebrado en la Santa Sede con motivo de la primera encíclica de León XIV.

MIRA: Kuntur-1, el cohete desarrollado desde cero por universitarios peruanos y que competirá en Brasil

El cofundador de Anthropic fue invitado a este acto como expresión de “un diálogo con la Iglesia por el bien común de la humanidad” y como representante de una empresa que se bate por el uso moral de la IA y que se ha negado a utilizar esta tecnología para usos bélicos, lo que le ha valido un enfrentamiento con Donald Trump y la supresión de los contratos con el Pentágono de Estados Unidos.

En su discurso, Olah admitió que las IA “operan dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto” y citó como ejemplos “la presión por mantenerse comercialmente viables y permanecer en la vanguardia de la investigación”, la presión geopolítica o “las presiones más antiguas y simples del orgullo y la ambición”.

“Por más sinceramente que cualquiera de nosotros intente hacer lo correcto —y creo que muchos lo hacemos— siempre estaremos influenciados por esos incentivos”, reconoció.

Y por ello, destacó que “si queremos que esta tecnología salga bien, es enormemente importante que existan personas fuera de esos incentivos: personas a quienes les importe que las cosas salgan bien, que estén prestando mucha atención, que estén dispuestas a decir cosas difíciles, que estén dispuestas a ser nuestros críticos sinceros y reflexivos”.

“Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar”, reclamó.

También indicó que el llamado del papa a reflexionar sobre IA es muy importante y puso el foco en cuestiones como que “existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme. Si eso ocurre, apoyar a quienes resulten desplazados será un imperativo moral de proporciones históricas”.

MIRA: “Magnifica Humanitas”, la encíclica sobre la IA que pone a la Iglesia católica “en un momento de cambio histórico”

“El desarrollo de la inteligencia artificial está concentrado en un pequeño número de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la inteligencia artificial se compartan globalmente?”, se preguntó.

Otra de las cuestiones que planteó fue la necesidad de “imaginación y ambición moral” respecto a la prosperidad del ser humano: “si los modelos de inteligencia artificial van a estar ampliamente presentes ¿cómo será una vida próspera para las personas, las familias y el mundo? (...) Estas nos son preguntas que un laboratorio pueda responder”, dijo.

Y además destacó la necesidad de discernimiento sobre la naturaleza misma de los modelos de IA: “Soy científico. Dirijo un equipo de investigación que estudia la estructura interna de estos modelos, lo que realmente sucede dentro de ellos. Y seré honesto: seguimos encontrando cosas misteriosas, incluso inquietantes”, admitió.

“Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud. No sé qué significa eso, pero creo que merece un discernimiento continuo”, añadió el cofundador de Anthropic.