Meta ha incorporado avisos proactivos que el asistente Meta AI enviará a los padres cuando sus hijos adolescentes traten temas sensibles en una conversión, como el suicidio o las autolesiones, a ejemplo de lo que ya hace Instagram y para reforzar los recursos de apoyo que ya ofrece.
MIRA: Muse Image: así puedes evitar que usen tus fotos para crear imágenes con la IA de Meta
La compañía tecnológica ha anunciado nuevas protecciones que inciden en el uso que hacen los adolescentes del ‘chatbot’ de Meta AI, para que tengan una experiencia adecuada a su edad y detectar si “podrían estar pasando por un momento difícil”.
Actualmente, cuando los adolescentes expresan en una conversación que podría estar pensando en el suicidio o autolesionarse, Meta AI les muestra recursos para que contacten con líneas de ayuda o les anima a hablar con un adulto de confianza.
A esta función se le une ahora el envío de notificaciones proactivas a los padres, como las que ya envía Instagram si identifica que sus hijos buscan repetidamente términos relacionados con el suicidio o la autolesión en un periodo corto de tiempo.
En el caso del ‘chatbot’ de IA, esta notificación se activará ante referencias claras a esos temas, pero también ante señales más sutiles que sugieran que el adolescente podría estar en riesgo, como informa Meta en un comunicado compartido en su blog.
Las conversaciones marcadas por un tema sensible pasarán también la revisión de un equipo de moderación humano antes de enviar la notificación. No obstante, Meta avisa de que “si la intención de un adolescente es ambigua, actuarán con precaución y alertarán a los padres”.
Estas alertas de Meta AI están disponibles para aquellos padres que ya utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá, y la intención de Meta es extenderlo al resto de padres de todo el mundo antes de que termine el año.
Además, los padres tienen a su dispositivo la configuración de contenido limitado, que restringe la aparición de contenido +13 en las cuentas de adolescentes, y que ahora también se aplica a las conversaciones que sus hijos mantengan con Meta AI.
Asimismo, Meta está trabajando con expertos en salud mental y adolescentes para mejorar la forma en que Meta AI responde a las consultas de éstos relacionadas con suicidio y autolesiones.
