El Comercio presenta primer proyecto periodístico con Inteligencia Artificial

¿Alguna vez escuchaste hablar de cesáreas innecesarias, maltratos, burlas y procedimientos peligrosos en una atención obstétrica y/o ginecológica? Estas situaciones muchas veces son acciones normalizadas en procesos de atención obstétrica y ginecológica por lo que pasan desapercibidas. El Comercio, a través de sus áreas ECData y Nuevas Narrativas, junto a investigadores del Laboratorio de Inteligencia Artificial QLAB-PUCP, ha diseñado y creado a ‘Illa’, una asistente virtual entrenada con Inteligencia Artificial que tiene la capacidad de reconocer si una situación podría calificar como caso de violencia obstétrica y/o ginecológica.

Aunque la Ley Nº 30364, Ley para prevenir, sancionar y erradicar la violencia contra las mujeres, incluye como una de sus manifestaciones a la violencia obstétrica; no existe una reglamentación específica para denunciar este tipo de agresiones. Por ello, ‘Illa’ se convierte en una herramienta efectiva capaz de interactuar de manera amigable y brindar información valiosa sobre situaciones que no siempre son claras o evidentes.

Los modelos de Lenguaje Masivos (MML) como GPT han generado un gran impacto en el campo del procesamiento del lenguaje natural (NLP). Al emplear ChatGPT-4 y entrenarlo con las guías de práctica médica, decretos, normativa y la legislación vigente; nos aseguramos que tenga un panorama claro del contexto. Además, tiene un fine tuning que permite que ‘Illa’, nuestra chatbot, sea empática y use un lenguaje cercano y sincero.

¿Qué consideramos para crear nuestro chatbot con Inteligencia Artificial?

• Comprensión del tema. Gracias a la profunda investigación sobre violencia obstétrica realizada por ECData, se generó una gran fuente de datos con guías médicas y legales; entrevistas con ginecólogos y además con pacientes para obtener casuística.
• Marco legal. Definimos el marco legal que acompañaría las respuestas y se consideró incluir metadata para brindar acceso a las fuentes principales a través de enlaces.
• Sensibilidad. Nos aseguramos de que el chatbot maneje conversaciones con empatía y sensibilidad.
• Limitaciones. Delineamos las capacidades y limitaciones del modelo, pues solo podíamos inferir alta probabilidad.
• Pruebas y feedback. Realizamos múltiples pruebas con diferentes perfiles de usuarios y situaciones para mejorar el modelo.

“Hemos enfrentado el desafío de desarrollar un modelo que no solo es avanzado tecnológicamente, sino que también posee una sensibilidad única en sus respuestas, especialmente al abordar testimonios de mujeres que han sufrido violencia. Esta experiencia ha redefinido nuestra comprensión sobre la importancia de entrenar modelos con una perspectiva humana y delicada, asegurando que la tecnología sirva como un pilar de apoyo y comprensión en temas de suma delicadeza”, destaca Alexander Quispe, profesor e investigador de QLAB-PUCP.

También buscamos la equidad en el modelo a través de los casos investigados, asegurándonos que en una segunda etapa contengan situaciones negativas pero también positivas, evitando prejuicios y sesgos existentes. La intención es permitir al modelo generar respuestas coherentes y contextualmente relevantes.

“Me llena de optimismo este ecosistema, en el cual el objetivo siempre es el acceso y la creación de información de manera eficiente. Gracias a todo esto, podemos crear herramientas amigables que pongan en primer plano los derechos de las mujeres y las poblaciones vulnerables”, comenta Rodrigo Grijalba, investigador de QLAB-PUCP.

Limitaciones al emplear Illa, nuestra chatbot amiga

• ‘Illa’ conoce la legislación y normativa existente y vigente en el Perú, además de los tipos de violencia obstétrica y ginecológica.
• En base a dicha información, Illa tiene la habilidad de distinguir si una situación probablemente califica como violencia obstétrica y/o ginecológica.
• Es importante tener en cuenta que las respuestas de ‘Illa’ no son definitivas. ‘Illa’ es un bot de IA, no un médico especialista ni un abogado especializado.
• Saluda a ‘Illa’ con un “Hola” y cuéntale qué te ha sucedido durante tu atención obstétrica y/o ginecológica. Intenta ser precisa con la información que le brindes.

Este es el primer proyecto periodístico con Inteligencia Artificial desarrollado por El Comercio y estamos seguros que próximamente vendrán más para ofrecer una experiencia mucho más dinámica y participativa al servicio de nuestros lectores.