Meta demanda a la empresa detrás de aplicación IA para “desnudar” a personas

Meta demandó en Hong Kong a la entidad que se encuentra detrás de las aplicaciones CrushAI, que permiten “desnudar” a personas o crear imágenes sexualmente explícitas generadas por inteligencia artificial (IA) sin consentimiento, para impedir que anuncien sus servicios en las plataformas Meta.

MIRA: Centro de datos, el corazón de la inteligencia artificial: cómo son y por qué su importancia en la actualidad

“Esto se produce tras múltiples intentos de Joy Timeline HK Limited (la entidad detrás de CrushAI) de eludir el proceso de revisión de anuncios de Meta y seguir publicando estos anuncios, tras ser eliminados repetidamente por infringir nuestras normas”, explica la empresa matriz de Facebook, WhatsApp e Instagram en un comunicado publicado este jueves.

Newsletter El Comercio MedIA

Alicia Rojas presenta una guía clara para entender (y aprovechar) la inteligencia artificial, cada jueves.

Recíbelo

Meta anota que esta acción legal “subraya la seriedad” con la que se toman este abuso y su compromiso de hacer todo lo posible para proteger a su comunidad de usuarios.

“Seguiremos tomando las medidas necesarias, que podrían incluir acciones legales, contra quienes abusen de nuestras plataformas de esta manera”, apunta la empresa.

El gigante tecnológico señala que elimina “constantemente” anuncios en páginas de Facebook y cuentas de Instagram que promocionan estos servicios y que bloquean los enlaces a sitios web que los alojan para que no se pueda acceder a ellos desde las plataformas Meta.

Asimismo, apunta que restringen términos de búsqueda como “desnudar”, “desvestir” y “eliminar ropa” en Facebook e Instagram.

“Algunos usan imágenes inocuas en sus anuncios para evitar ser detectados por nuestra tecnología de detección de desnudos, mientras que otros crean rápidamente nuevos nombres de dominio para reemplazar los sitios web que bloqueamos”, se lamenta la plataforma.

En ese sentido, Meta apunta que está trabajando con expertos externos para ampliar la lista de términos, frases y emojis para detectar este tipo de anuncios.

Meta también indica que compartirá información sobre estas aplicaciones con otras empresas tecnológicas para que también puedan abordarlas en sus respectivas plataformas.

En EE.UU., varios investigadores han alertado sobre el auge de estas aplicaciones que usan IA para desnudar a personas sin su consentimiento que se pueden encontrar en línea, en las tiendas de aplicaciones y en la plataforma publicitaria de Meta.

El senador Dick Durbin, demócrata de Illinois, envió una carta en febrero al director ejecutivo de Meta, Mark Zuckerberg, instándolo a abordar el papel de su empresa al permitir que Joy Timeline publicara anuncios que violan las normas de Meta sobre desnudez adulta, actividad sexual y “ciertas formas de acoso e intimidación”.

La carta de Durbin citaba un informe del medio de noticias tecnológicas 404 Media y una investigación de Alexios Mantzarlis, de Cornell Tech, que reveló que al menos 8.010 anuncios relacionados con CrushAI se publicaron en las aplicaciones de Meta durante las dos primeras semanas de este año, según CNBC.