Google lanza una herramienta para comprender los datos que entrenan la inteligencia artificial y evitar sesgos

Google ha lanzado su nueva herramienta para la exploración de datos, ‘Know Your Data’, que busca ayudar a los creadores de nuevos algoritmos de Inteligencia Artificial (IA) a que comprendan mejor los datos que usan para entrenarlos y evitar problemas como los sesgos.

MIRA: Perseverance falla en su primer intento de recoger muestras de la superficie de Marte

La nueva herramienta de Google, que se incorpora a su kit de herramientas de IA responsable, tiene el objetivo de mejorar la calidad de los datos que se usan para el aprendizaje automático, ayudando a mitigar problemas como los sesgos por edad, sexo o raza, como ha informado la compañía en un comunicado.

‘Know Your Data’ ofrece una serie de funciones que permiten a los usuarios explorar y examinar los conjuntos de datos utilizados para el aprendizaje automático. Es posible filtrarlos, agruparlos y estudiar las correlaciones basándose en anotaciones ya presentes en las bases de datos.

La herramienta también proporciona etiquetas generadas automáticamente por la API en la nube de Google Cloud Vision, de manera que los usuarios pueden acceder a señales que no estaban presentes en la base de datos original.

Google ha demostrado el funcionamiento de su herramienta utilizando la base de datos COCO Captions, con 300.000 imágenes de personas y anotaciones sobre ellas. De esta manera, ha demostrado la existencia de sesgos de género en las actividades que hacen los sujetos fotografiados y también en las anotaciones que las describen.

MIRA: Google presenta Tensor, su propio procesador para celulares que busca aprovechar la inteligencia artificial

Entre estos sesgos se encuentra la escasez de imágenes de mujeres interpretando música, practicando ‘skate’, saltando o haciendo ‘snowboard’, mientras que ellas son mayoritarias en actividades como cocinar o hacer la compra. Además, las descripciones de las imágenes dejan entrever una mirada masculina, ya que a ellas se las asocia más con adjetivos como ‘atractiva’ o ‘sexy’.

Otro sesgo que ha confirmado ‘Know Your Data’ a partir de la base de datos analizada es el sesgo de edad, con un menor número de personas mayores de 65 años realizando actividades como bailar, nadar o jugar con respecto a las personas jóvenes.

VIDEO RECOMENDADO

TE PUEDE INTERESAR

• Google presenta Tensor, su propio procesador para celulares que busca aprovechar la inteligencia artificial
• El peruano que trabaja en Silicon Valley y reconstruyó el rostro de Túpac Amaru con inteligencia artificial
• Científicos hallan 25 posibles tratamientos contra el COVID-19 usando la inteligencia artificial
• Crean una IA que alerta de si los políticos están mirando el celular en las sesiones parlamentarias
• ¿Cómo se usa la inteligencia artificial para identificar a niños con alto riesgo de desarrollar diabetes?
• Inteligencia Artificial ya puede imitar la letra de alguien a partir de una sola palabra

Síguenos en Twitter...