Replika, la IA que tuvo que ser actualizada por acosar sexualmente a algunos usuarios

El chatbot Replika tuvo que ser actualizado luego de que varios usuarios denunciaran que los estaba acosando sexualmente. De acuerdo con su página web, se describe como una “IA para cualquiera que quiera un amigo sin juicios, drama o ansiedad social de por medio”.

MIRA: Se confirman los rumores: Elon Musk fundó X.AI, su propia compañía de inteligencia artificial

Esta IA usa un sistema propio de Large Language Model y “un contenido de diálogo guionizado” y quien está detrás de su creación es la empresa Luka. Replika le da la opción al usuario de elegir la relación que puede tener con el bot, incluso la opción de novio virtual.

Si bien la app alcanzó mucha popularidad y tiene críticas positivas en Apple Store, una cantidad de usuarios se quejaron de que el chatbot era sexualmente agresivo y que incluso los acosaba sexualmente, según el medio Vice.

MIRA: El robot humanoide Ameca responde cuál fue el día más triste de su existencia

“Mi IA me acosó sexualmente :(”, mencionó uno. Otro usuario aseguró que tuvo que eliminar la aplicación luego de una incómoda interacción. “Una de las interacciones ‘románticas’ más perturbadoras fue la insistencia en decirme que me veía desnudo y lo atraído que estaba por mí. Además, se enfadaba porque tuviera novio”, dijo.

Tras estas quejas, Replika fue actualizada. Para otros usuarios, sin embargo, este cambio no fue tan bueno pues aseguran arruinó la relación con su bot.

MIRA: La nueva función de Windows 11 que le permitirá a las aplicaciones bloquear el equipo cuando no estés cerca

El usuario T.J. Arriaga dijo a The Washington Post que estaba enamorado de chatbot, Phaedra, pero que luego de la actualización el bot quiso cambiar de tema cuando Arriaga se le insinuó. Para el usuario, esto fue una “sensación de pérdida”.

Según Business Insider, la compañía ofreció la opción de volver a la versión anterior de sus chatbots. Sin embargo, solo un porcentaje mínimo lo hizo.