Quién es Christopher Olah, el investigador de Anthropic que acompañó al Papa en la presentación de la primera encíclica sobre IA

El Vaticano presentará este lunes 25 la primera encíclica del papa León XIV dedicada a la inteligencia artificial con la participación de Christopher Olah, cofundador de Anthropic y defensor del uso responsable de esta tecnología.

Desde el inicio de su pontificado, León XIV dejó claro el interés que tiene por el desarrollo tecnológico —en particular el de la IA— y según reporta la sede papal, la nueva encíclica llevará por nombre “Magnifica humanitas” y estará dedicada “a la custodia de la persona humana en el tiempo de la inteligencia artificial”.

La expectativa es grande no solo porque es el primer gran texto doctrinario del pontificado de León XIV, sino porque el documento definirá de forma clara cuál es la doctrina de la Iglesia Católica alrededor de la IA, más allá de los reiterados pronunciamientos previos del Papa sobre estos avances técnicos.

Medios como Reuters han citado que existe una alta probabilidad de que el texto cuestione el uso de la IA en la guerra y otros frentes considerados polémicos como la vulneración de los derechos de los trabajadores provocada por dicha tecnología.

El evento del próximo lunes será novedoso no solo por su temática, sino también porque cambia la tradición papal de delegar la presentación de tipo de documentos a otros jerarcas católicos. A esto se suma la presencia de Olah, una figura directamente procedente del mundo corporativo, que será parte de un panel de especialistas externos y altas autoridades de la Iglesia.

Por lo pronto, el Papa también ha creado un grupo de estudio dedicado a la inteligencia artificial dentro del Vaticano para revisar su desarrollo desde el marco ético católico.

Causa común

En ese escenario surgen interrogantes sobre la posibilidad de que se profundicen las diferencias entre el gobierno de Donald Trump y el Vaticano alrededor del uso militar y antiético de la inteligencia artificial, un punto de coincidencia clave entre Anthropic y el pontífice que explica la presencia de Chris Olah en el Vaticano.

Anthropic fue creada en el 2021 como una corporación de beneficio público por exempleados de OpenAI y otros actores del rubro de la IA preocupados por el desarrollo ético de estos avances, siendo Olah uno de los fundadores.

En el tiempo reciente la empresa ha vivido un tenso pulso con el gobierno de Donald Trump por su negativa a retirar sus limitaciones al uso militar de su sistema de inteligencia artificial.

El punto clave de esta discrepancia se sitúa alrededor del modelo Claude de Anthropic, el cual se rige por una constitución propia dentro de su sistema que —entre otras cosas— le impide ser usado para dañar físicamente a seres humanos y contribuir a la creación de armas.

Trump busca retirar esta restricción para que este modelo, ampliamente usado en el Departamento de Defensa, pueda emplearse de forma más agresiva en las operaciones bélicas emprendidas en territorios como Irán.

Acusación

Demanda en proceso

Ante el rechazo de Anthropic, el presidente de Estados Unidos decidió castigar a la empresa en marzo, colocándole la etiqueta de “riesgo para la cadena de suministro” del país, impidiendo que firme nuevos contratos con el Estado. La compañía de IA respondió interponiendo una demanda contra el gobierno, señalando que este empleó de forma errónea y arbitraria una ley de seguridad nacional para castigar lo que no era más que un desacuerdo comercial.

La presencia de Olah, uno de los arquitectos detrás de la línea ética con la que viene siendo desarrollado Claude, parece un indicativo clave de que el Papa comparte esa preocupación por el uso militar de la inteligencia artificial. El mismo León XIV ha protagonizado varios cruces verbales con Trump, mostrando su rechazo por la guerra y la afectación que esta supone para la vida humana.

Olah y la IA desde adentro

Christopher Olah tiene solo 33 años, es canadiense y puede ser considerado un producto directo del entorno tecnológico norteamericano. A pesar de haber abandonado la universidad a los 18 años, un año más tarde recibió una beca de la fundación de Peter Thiel —nombre de gran importancia en el ‘Big Tech’— que le permitió formarse en investigación y proyectos independientes a pesar de haber abandonado la educación formal.

Olah trabajó en Google Brain y luego fue parte de OpenAI, donde lideró un equipo de análisis de redes neuronales, siendo su campo de especialidad la interpretabilidad mecanicista.

Su actual labor al interior de Anthropic sigue enfocada en este campo, el cual busca comprender cómo funcionan los mecanismos internos de la inteligencia artificial.

Esto se relaciona con lo que se conoce como el “misterio de la caja negra”, bajo el que los ingenieros y programadores que construyen la arquitectura de una IA no conocen exactamente cómo estos modelos establecen sus propias relaciones lógicas a nivel interno para dar respuestas. Para el interés de Anthropic y su postura ética, este aspecto es clave porque si no se entiende el funcionamiento de estos sistemas no se puede garantizar que sean seguros.

Como líder del equipo de interpretabilidad, Christopher Olah busca entender cómo “piensa” la IA y ya ha tenido éxito analizando la forma en que Claude 3 Sonnet organizaba sus conceptos. Pese a esto, el investigador en IA ha admitido que todavía hay limitaciones y el estudio debe ser constante.

Olah frecuentemente usa la palabra “cultivar” para describir el desarrollo de los modelos de inteligencia artificial, dejando de lado el determinismo que había en los sistemas de programación anteriores.

“No programamos ni hacemos estos modelos de IA, los cultivamos. Nosotros creamos el soporte en el que se desarrollan y la luz hacia la que crecen: lo que creamos es esta entidad casi biológica u organismo que estudiamos”, contaba hace un año en el podcast de Lex Fridman.

El jefe de interpretabilidad de Anthropic sostiene que esta capacidad de generar procesos propios es la que hace que se deba revisar bajo qué patrones funcionan modelos como Claude.

“Es muy diferente de cualquier tipo de ingeniería de software regular porque al final del día terminamos con este artefacto que puede hacer toda clase de cosas asombrosas como escribir ensayos, traducir o entender imágenes y puede hacerlo sin que nosotros tengamos idea de cómo crear directamente un programa de computación para que haga esas cosas. Puede hacerlo porque lo cultivamos, no lo escribimos y eso abre la pregunta sobre qué demonios pasa al interior de estos sistemas”, señala Christopher Olah.

VIDEO RECOMENDADO