OpenAI suspende sus planes para lanzar un chatbot de contenido erótico

OpenAI suspendió indefinidamente sus planes para lanzar un chatbot de contenido sexual explícito, informó el jueves la compañía, en medio de las crecientes preocupaciones sobre los riesgos sociales y reputacionales de lanzar al mercado un producto de este tipo.

MIRA: El final de Sora: OpenAI cerrará su aplicación para generar videos realistas con inteligencia artificial

La decisión, dada a conocer primero por el Financial Times, se produce mientras el gigante de la inteligencia artificial (IA) busca deshacerse de proyectos secundarios para mantener su liderazgo en esta competida industria.

La función de contenido explícito, conocida internamente como “modo Citron”, suscitó críticas, según informó el FT.

Algunos empleados cuestionaron si el producto era compatible con la misión de la empresa de garantizar que su tecnología beneficie la humanidad.

Los inversionistas por su parte expresaron su preocupación sobre posibles riesgos reputacionales frente al beneficio comercial.

OpenAI anunció el año pasado que relajaría las restricciones sobre su chatbot ChatGPT, incluida la autorización de contenido erótico para usuarios adultos verificados. La empresa lo describió como un paso para “tratar a los usuarios adultos como adultos”.

La cancelación del plan se produce la misma semana en que OpenAI anunció el cierre de su aplicación de video social Sora, señalada por desencadenar una avalancha de contenido de IA de escaso valor añadido en línea.

Estos anuncios llegan además en un momento delicado para la industria tecnológica, con Meta y otras redes sociales enfrentadas a una ola de demandas y regulaciones por el impacto de sus plataformas en menores.

La empresa rival de inteligencia artificial de Elon Musk suscitó una condena global el año pasado después de que su chatbot Grok se utilizara para generar imágenes sexuales falsas de personas reales, incluidos menores.