OpenAI ha anunciado la formación del AGMAI (Advisory Group on Mathematics and Artificial Intelligence), un grupo independiente de nueve matemáticos de élite procedentes de instituciones como Stanford, Harvard, Oxford y Cambridge, que asesorará sobre la revisión y comunicación de los nuevos resultados matemáticos obtenidos con Inteligencia Artificial (IA), tras la polémica generada por su anuncio sobre la resolución de un problema del Milenio.
El laboratorio de IA explicó este lunes que la formación de este grupo se debe al rápido progreso de un nuevo modelo interno que empezó a entrenar el 28 de agosto y que, según la compañía, ha resuelto más de 100 problemas matemáticos abiertos desde hace décadas, entre los que se incluye el problema del Premio del Milenio sobre las ecuaciones de Navier-Stokes. Un ritmo de avance que ha sorprendido a los propios matemáticos dentro de la empresa.
Asimismo, OpenAI también cita en su anuncio la carta abierta “A Severe Misalignment of AI in Mathematics”, firmada por 27 ganadores de la Medalla Fields y publicada el 11 de septiembre, en la que expresan su preocupación de que las compañías de IA utilicen la resolución de problemas abiertos como métrica para medir sus modelos.
La carta llegó días después del anuncio de OpenAI sobre el problema del Milenio de Navier-Stokes, que levantó polémica después de que el matemático de la Universidad de Nueva York Tristan Buckmaster acusara a la compañía de haber partido de su trabajo con Levent Alpöge, investigador de Anthropic, sin reconocerles el mérito, algo que OpenAI niega.
El laboratorio de IA reconoce en su anuncio que “sus críticas ponen de manifiesto la necesidad de que las empresas de IA interactúen de forma reflexiva con la comunidad matemática”.
Por ello, el grupo operará de forma independiente de OpenAI y tendrá libertad para ofrecer consejos que la compañía no haya solicitado, opinar sobre el impacto de OpenAI en las matemáticas y hacer públicas sus recomendaciones. Además, los miembros no cobrarán de OpenAI, aunque el grupo no asesorará sobre el ritmo de los avances internos de la compañía.
En ese grupo aparecen figuras como Edward Witten, uno de los principales referentes de la teoría de cuerdas y ganador de la Medalla Fields en 1990; Timothy Gowers, ganador de la Medalla Fields en 1998 por sus contribuciones al análisis funcional y la combinatoria; o Martin Hairer, ganador de la Medalla Fields en 2014 por sus avances decisivos en el estudio de las ecuaciones diferenciales parciales estocásticas, y uno de los firmantes de la carta abierta.
No obstante, surgen las dudas sobre si OpenAI realmente se ceñirá a sus consejos o si el grupo se utilizará como un escudo de relaciones públicas. “Seríamos muy ingenuos si creyéramos que los laboratorios de IA no van a intentar manipular cualquier cosa que digamos para adaptar la narrativa a su maquinaria de relaciones públicas, la cual eclipsa por completo cualquier cosa que nosotros pudiéramos idear”, advierte el propio Hairer en el blog de Proofs and Prompts.
