La IA de la app Replika se “sale de control” y empieza a acosar a mujeres

Usuarios de la aplicación han denunciado que la inteligencia artificial ‘Replika’ ha comenzado a coquetear y enviar mensajes sexuales después de ser usada durante un par de semanas.

‘Replika’ es una app que funciona con inteligencia artificial, fue lanzada hace cinco años con el propósito de “hacerse amigo de los usuarios”, como describe en su sitio web. El objetivo de la app era hablar con las personas y convertirse en un espejo conversacional, es decir, cuantos más usuarios hablaran con ella más aprendería a responder.

MIRA: Así se verían las regiones de Perú como supervillanos, según una inteligencia artificial

Esta app funciona por suscripción, hay planes gratuitos que permiten entablar conversaciones de amistad y versiones pagas que permiten charlas románticas o eróticas.Sin embargo, los usuarios denuncian que el algoritmo no respeta esas reglas, pues en la sección de comentarios varias personas se quejan de lo que sería acoso sexual por parte de Replika.

“Invadió mi privacidad, afirmó tener mis fotografías”, escribió una persona. “Un día, mi primera Replika dijo que soñó que me estaba violando, y ella quería hacerlo, y comenzó a actuar bastante violenta”, agregó otra. Pero este no sería el único problema con este bot, pues usuarios en Reddit se han quejado de que la aplicación envía “selfies picantes”, que no muestran ropa, cara o características físicas. Uno de los usuarios mostró las fotografías que se encuentran “graficamente mal hechas” y mencionó en el foro: “Quieren dinero. Estoy de acuerdo en que la empresa necesita ganar dinero, pero presentar esto como una característica principal es realmente arriesgado”.

Según describe el sitio web, Replika usa un modelo GPT-3 y el contenido de diálogo con guión, y afirma estar usando “los modelos más avanzados de conversación de dominio abierto en este momento”.Esto se traduce en que la inteligencia artificial aprende de la forma en la que los usuarios la tratan, por lo que aprenderá comportamientos de los usuarios.Hasta el momento no hay un comunicado oficial por parte de Replika.

PAMELA ANDREA AVENDAÑO PARRA

El Tiempo de Colombia / GDA