OpenAI busca a una persona para un nuevo puesto “crucial”: anticiparse los peligros de la IA y mitigarlos

OpenAI ha anunciado una convocatoria para contratar a un responsable de Preparación, un puesto “crucial” para continuar con la evolución de los modelos de inteligencia artificial (IA) evitando que puedan causar daño en el mundo real.

Los modelos de IA son cada vez más capaces, pero estas capacidades plantean riesgos en el mundo real, como problemas de salud mental y de seguridad, con el abuso de sus capacidades para personalizar las campañas maliciosas o incluso generar nuevo ‘malware’.

Newsletter El Comercio MedIA

Alicia Rojas presenta una guía clara para entender (y aprovechar) la inteligencia artificial, cada jueves.

Recíbelo

MIRA: Ansiedad severa y trastorno obsesivo-compulsivo: ChatGPT, Grok, Gemini y otras herramientas de IA pasaron por evaluación psicológica

Las capacidades de estos modelos también les permiten detectar vulnerabilidades críticas en los sistemas informáticos, lo que ha llevado a OpenAI, responsable de los modelos GPT y del ‘chatbot’ ChatGPT, a buscar un responsable de Preparación.

Este puesto es “crucial”, como ha expuesto el director ejecutivo de la compañía, Sam Altman, en su cuenta de X, donde ha explicado que “será un trabajo estresante” y quien lo acabe ocupando “estará envuelto en una situación complicada casi de inmediato”.

Ello se debe a que su principal deber será anticiparse a los peligros que plantea la IA en el mundo real para mitigarlos, tanto biológicos como de ciberseguridad, como se explica en la oferta de empleo.

Para ello, tendrá que “desarrollar y coordinar evaluaciones de capacidades, modelos de amenazas y mitigaciones que conforman un proceso de seguridad coherente, riguroso y escalable operativamente”.