Denuncian que una IA se entrenó con fotos de personas fallecidas sin permiso

Una usuaria ha denunciado que PimEyes, una plataforma de reconocimiento facial con inteligencia artificial, está usando fotografías de fallecidos para entrenar su IA.

Según señala Wired, se trata de la usuaria Cher Scarlett, quien se percató que en dicho programa aparecían las fotografías de sus ancestros fallecidos e, incluso, el de su hermana, quien falleció en 2018.

PimEyes funciona como un motor de búsqueda de rostros. Subes una foto y la IA encuentra donde más aparecen en todo Internet.

MIRA: GPT-4 ya llegó: el nuevo modelo de OpenAI puede entender imágenes y resolver problemas “a nivel humano”

¿Cómo PimEyes tuvo acceso y control de las fotos de fallecidos? Pues lo extrajo del sitio web Ancestry, un espacio donde las personas pueden subir sus datos para crear sus arboles genealógicos. El problema es que este último prohíbe el acceso o recopilación de datos mediantes “medios automatizados”, tampoco permite la reproducción o publicación de los contenidos que estén en Ancestry.

Sin embargo, parece que la IA de PimEyes no ha respetado la regla y ha nutrido su base de datos con fotografías de personas muertas.

“Nadie está subiendo fotos a Ancestry pensando que van a estar inscritos en un identificador biométrico para el software de reconocimiento facial sin su conocimiento o consentimiento”, señaló Scarlett a Wired.

MIRA: Claude, la IA de los exempleados de OpenAI que promete resultados menos dañinos

Por su lado, Giorgi Gobronidze, representante de la plataforma acusada, explica que “PimEyes solo rastrea los sitios web que permiten hacerlo oficialmente”. Y que “ha sido una noticia muy desagradable que nuestros rastreadores hayan roto de alguna manera la regla”. Sin embargó, no dio detalles de cómo recogen los datos para entrenar su IA.