España pide investigar a la IA de X por supuesta pornografía infantil

El Gobierno de España envió un escrito a la Fiscalía General del Estado para solicitar que investigue si Grok, la inteligencia artificial (IA) de X, red social antes conocida como Twitter que el magnate Elon Musk compró en 2022, puede estar cometiendo delitos de difusión de material de violencia sexual contra la infancia.

Fue la ministra de Juventud e Infancia, Sira Rego, quien hizo la petición a la Fiscalía.

Newsletter El Comercio MedIA

Alicia Rojas presenta una guía clara para entender (y aprovechar) la inteligencia artificial, cada jueves.

Recíbelo

MIRA: Nunca podremos saber si la IA se vuelve consciente, según filósofo de la Universidad de Cambridge

Según explicaron este miércoles fuentes del departamento de Rego, Grok habría generado, a petición de usuarios, material de violencia sexual contra menores, “una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil”, recogido en el Código Penal de España.

También podría suponer un delito contra la integridad moral, incluido, asimismo, en el Código Penal.

Para el Gobierno de España, se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital.

En el oficio remitido a la Fiscalía, la ministra de Juventud e Infancia alude a una sentencia de 2024 del Juzgado de Menores de Badajoz, al oeste de España, en la que se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes.

Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral, señala la responsable de Juventud e Infancia en el documento remitido a la Fiscalía.

“Estamos ante una vulneración de derechos fundamentales”, sostuvo Rego, quien subrayó que “es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet” y poner freno a prácticas que atentan contra su dignidad y su desarrollo libre y seguro en el espacio digital.

Actualmente, el Congreso tramita una ley orgánica para la protección de los menores en los entornos digitales, promovida por el Ministerio de Juventud e Infancia junto a otros ministerios.