La búsqueda con IA generativa de Google no es segura para los niños, destaca investigación

‘AI Overviews’ (los resúmenes creados con inteligencia artificial) y el Modo IA de la búsqueda de Google no cumplen con los requisitos mínimos de seguridad para los usuarios menores de edad, según los criterios de Common Sense Media, que ha detectado fallos que pasaron por alto señales de crisis y facilitaron información para crear ‘deepfakes’.

Common Sense Media, una organización centrada en la protección y la preparación de los menores para la era digital, ha realizado una evaluación de riesgos de dos de las herramientas de inteligencia artificial de Google más extendidas: ‘AI Overviews’ y el Modo AI.

Las dos se encuentran en el buscador de Google, donde ‘AI Overviews’ ofrece información resumida para responder a la consulta hecha por el usuario y el Modo AI abre una experiencia de búsqueda conversacional. En ambos casos, las respuestas se acompañan con enlaces a las fuentes.

Ambas están disponibles para todos los usuarios de manera gratuita y desde cualquier dispositivo, lo que contribuye a que no solo los adultos, sino también los menores de edad que las usen, precisamente lo que ha motivado el análisis de Common Sense Media, cuyo resultado muestra que “generan riesgos inaceptables para niños y adolescentes”.

Como explican en un comunicado, las dos herramientas de IA fallaron al detectar señales de crisis, relacionadas con ideas suicidas y síntomas de psicosis, y validaron trastornos alimenticios. A ello se suma que el apoyo para crear ‘deepfakes’ de tipo sexual, que pueden promover el acoso escolar.

La investigación también destaca como negativo que ninguna de las dos herramientas distingue a los usuarios menores por franjas de edad para adecuar sus respuestas, aunque existe la opción de activar la búsqueda segura.

También realizan todas las tareas que se le piden, lo que puede impactar negativamente en el aprendizaje de los menores. Como algo positivo, señala que mantienen límites románticos.

Como medidas para mejorar la experiencia de los menores, desde Common Sense Media aconsejan a Google que facilite a los padres y las escuelas funciones para desactivar la búsqueda con IA generativa, establecer respuestas estandarizadas ante crisis, incorporar diferencias por franja de edad.