El ataque a una página de novias y novios por IA revela lo peor: el abuso sexual a menores

La inteligencia artificial (IA) puede ser una herramienta muy positiva para la ciencia, la medicina, el entretenimiento; pero también hay caminos indeseables como el que reveló un ataque a una página creadora de novios y novias virtuales.

El hackeo a la página llamada Muah.ai dejó ver cómo los usuarios requerían a su chatbot la creación de imágenes de menores de edad para dejar llevar sus perversiones.

Newsletter El Comercio MedIA

Alicia Rojas presenta una guía clara para entender (y aprovechar) la inteligencia artificial, cada jueves.

Recíbelo

MIRA: El iPhone 16 Pro Max le cuesta a Apple menos de la mitad de su precio de venta

Este fue el resultado de una investigación de la agencia 404Media, señala un informe de El Español Omícrono. La página está dedicada a la creación de novias y novios falsos, y entabla conversaciones sin censura.

La filtración reveló las conversaciones revelaron las prácticas sexuales de usuarios, y algunos pedían a la IA que interpretara el papel de niños pequeños, incluso bebes.

Cuando se detectó el ataque, la página web informó a sus usuarios por Discord que fueron “atacados por piratas informáticos que aparentemente no tenían nada que hacer más que piratear un proyecto”.

Por otro lado, la página ha asegurado que cuenta con “un equipo de moderación que suspende y elimina todos los chatbots relacionados con niños en nuestra galería de tarjetas, discord, reddit, etc.”, indica el reporte.

Sin embargo, aún queda el temor de lo que se pueda hacer con la inteligencia artificial. Instituciones como The Internet Watch Foundation han advertido esta mala práctica que sexualiza a menores de edad.