Personal interno de Meta advirtió a la compañía sobre la identificación de cuentas que estaban aprovechando el plan de suscripciones a creadores de contenido en Instagram para llevar a cabo acciones de explotación infantil, que la tecnológica optó por resolver con la implementación de un sistema automatizado, que no logró evitar la situación.
La compañía liderada por Mark Zuckerberg amplió las opciones de monetización para creadores de contenido en el año 2022, facilitando suscripciones a cuentas de Instagram y Facebook a cambio de contenido exclusivo.
MIRA: Así se vería la Cenicienta en la vida real, según una inteligencia artificial
Esta opción, que llegó a España y a otros países en julio de 2023, se implementó para ayudar a los creadores de contenido a obtener ingresos extra con la posibilidad de crear experiencias únicas y fomentar las conexiones con sus seguidores “más comprometidos”.
Más tarde, la empresa matriz de Facebook e Instagram continuó fomentando estas suscripciones agregando más herramientas para los creadores de contenido. Entre ellas, una opción de recompensas con regalos, que se reciben de forma exclusiva por invitación y con los que se paga a los creadores por compartir sus contenidos a través de reels y fotografías.
Solo las cuentas creadas por adultos pueden ofrecer contenido exclusivo a través de las suscripciones y recibir regalos. No obstante, la plataforma también permite que los menores utilicen este sistema siempre que la cuenta esté controlada por un adulto.
MIRA: ¿Cómo es Gemini 1.5, la apuesta de Google para competir con OpenAI?
En este marco, tal y como ha podido conocer The Wall Street Journal, el personal interno de Meta advirtió a la compañía el pasado año de que estas nuevas herramientas de suscripción estaban siendo utilizadas para llevar a cabo actividades de explotación sexual infantil.
En concreto, fuentes internas de la compañía han detallado que dos equipos de Meta notificaron sobre la identificación de cuentas de menores gestionadas por padres que estaban utilizando las suscripciones para ofrecer contenido exclusivo de niños y adolescentes sexualizados que se vendían en su mayoría a hombres.
Asimismo, se han observado comentarios de suscriptores en los que se detalla explícitamente el interés sexual hacia los menores, incluso, ocasiones en las que los padres han fomentado que los menores interactúen con los suscriptores en Instagram.
Las fuentes internas relacionadas con la investigación han asegurado que la función de suscripciones en Instagram y Facebook se lanzó sin herramientas básicas de protección y seguridad infantil. Además, la investigación también ha revelado que los sistemas de recomendación de la compañía estaban promoviendo estas cuentas de menores impulsando las suscripciones. Igualmente, el botón ‘Enviar regalo’ apareció en publicaciones que promocionaban enlaces a vídeos de abuso sexual infantil.
De cara a evitar este tipo de situaciones, el personal de Meta recomendó a la compañía que exigiese a estos perfiles que se registraran como cuentas de contenido sobre menores para poder acceder al sistema de suscripciones y que, así, puedan ser monitorizados de forma más precisa. Igualmente, las fuentes han detallado que Meta pudo prohibir las suscripciones a este tipo de cuentas, como ya hacen otras plataformas como TikTok.
MIRA: Twitch aumentará el precio de las suscripciones web a partir del 28 de marzo
Sin embargo, la compañía tecnológica no adoptó estas propuestas, sino que creó un sistema automatizado con el que se identifica a los usuarios con comportamientos pedófilos en la red social y se les impide suscribirse a cuentas que ofrezcan contenido sexual de menores.
A pesar de todo ello, tal y como han denunciado las fuentes, este sistema automatizado no logró evitar la explotación infantil, ya que bastaba con que los usuarios creasen una cuenta nueva para eludir el sistema de protección.
Asimismo, continuaron ocurriendo fallos que fomentaban estas situaciones de abuso sexual infantil en la red social. Como ha detectado The Wall Street Journal, una cuenta que ya había sido prohibida por explotación infantil consiguió regresar a Instagram e, incluso, recibió la verificación oficial. Igualmente, otras cuentas administradas por padres que también habían sido prohibidas en Instagram, continuaron ofreciendo contenido infantil a través de Facebook.
Tras alertar a Meta de estos fallos, la compañía procedió a eliminar dichas cuentas, al tiempo que reconoció los errores de seguridad en sus plataformas. Además, ha detallado al mismo medio que continúa investigando este tipo de casos y que, para ello, está comenzando a examinar cuentas que promueven la explotación infantil a través de una nueva herramienta llamada Macsa, acrónimo de ‘Actor malicioso de seguridad infantil’.
