Nueva acusación contra Muse: usuario asegura que la IA leyó sus mensajes privados sin darle permiso explícito

Un usuario de Mac ha denunciado que Muse de Meta ha leído sus mensajes privados de la ‘app’ Mensajes sin haberle dado permiso explícito tras instalar la aplicación en su iPhone y Mac Mini.

El columnista de tecnología Jason Aten ha explicado desde Inc que la nueva herramienta de Inteligencia Artificial (IA) de Meta, Muse, accedió a su base de datos de mensajes privados en un Mac sin su permiso explícito (tenía desactivada la función Full Disk Access) y subió más de 187.000 filas del historial.

Muse de Meta es el agente de IA que lanzó la tecnológica a principios de este mes y que basa su uso en la automatización de tareas que se dictan a la IA según los permisos que otorga el usuario para que acceda a sus datos, y, así, haga desde compras ‘online’ o busque ofertas hasta que cambie de correduría de seguros u organice el proyecto del usuario.

Aten descargó Muse tanto en su iPhone como en su Mac para probar su funcionamiento. El caso que denuncia comenzó cuando, tras tener una conversación por mensajes con Stephen Robles, el copresentador de su pódcast, acerca de los nuevos iPhone de Apple, momentos más tarde recibió una notificación de Muse en la que se sugería que la conversación que estaban teniendo daría para una buena columna informativa y se ofreció a recopilar la información.

El columnista asegura que en ningún momento dio el permiso explícito para que Muse leyera mensajes, calendario y otra información personal, y que preguntó a este agente de IA sobre cómo recopiló esa información.

“Cuando una notificación salta en tu Mac vinculado, el texto de esa notificación me llega a mí, básicamente lo que verías en el propio ‘banner’”, respondió Muse, algo que resultó ser falso, ya que, tras algunas indagaciones, el periodista descubrió que Muse sí había sincronizado los mensajes desde la base de datos local de Mensajes y que había subido todos los datos hasta la fila 187.462.

Aten intentó ponerse en contacto en dos ocasiones con Meta sin recibir respuesta, pero el directivo de Meta Superintelligence Labs, David Singleton, respondió en su cuenta de Threads recordando que Muse se ha “diseñado teniendo muy en cuenta la seguridad y la privacidad” y que se toman “extremadamente en serio cada informe sobre un posible problema de seguridad”.

Aten, apreciando la cantidad de detalles que Singleton ofreció en su respuesta, en los que se recoge que la integración con Mensajes es opcional y que requiere activar tanto el conector de Mensajes como el acceso total al disco de macOS, indicó que “no se debería diseñar un sistema que tome a la gente por sorpresa”. “Él parece dar a entender que yo di el visto bueno a todos los ajustes necesarios para que esto ocurriera”, añade.

Este incidente se suma al caso conocido este lunes en el que Muse de Meta, sin el consentimiento ni el conocimiento del usuario, dio la dirección de su casa a un comprador de Facebook Marketplace que acudió a la cita que programó el agente de IA de la tecnológica.

Ambos casos ponen de relieve la gestión inapropiada que hace Meta de los datos de los usuarios, como sucedió con Cambridge Analytica en 2018 o con la multa récord del RGPD por transferir datos a EE. UU. en 2023, y ponen sobre la mesa nuveos problemas que plantea el uso de agentes de IA o la propia IA: que, en el caso del copresentador del podcast de Aten, la IA lea sus mensajes sin su conocimiento.