¿Debe regularse la Inteligencia Artificial? Expertos opinan sobre el proyecto de reglamento de IA en Perú

Regulación del uso de la Inteligencia Artificial en Perú

¿Qué significa todo esto? ¿Es realmente importante y un paso hacia adelante el que ha dado nuestro país en torno a la IA promoviendo este reglamento? Son varias las preguntas al respecto que trataremos de responder pero primero, es necesario que miremos para atrás y nos ubiquemos en noviembre de 2022 cuando la aparición del Chat GPT (Generative Pre-trained Transformer), revolucionó la tecnología para siempre.

A diferencia de anteriores modelos de IA creados para comprender y generar una conversación de texto, el Chat GPT creado por la empresa OpenAI era capaz de darnos respuesta a casi todas nuestras preguntas a través de una conversación de lo más orgánica, y hacernos creer que hablásemos con una persona real.

En cuestión de meses, esta tecnología parecía haber inspirado y empujado a otras marcas como Google, Meta y Microsoft, a lanzar modelos similares y así, para marzo de 2023, ya teníamos en el mercado herramientas actualizadas como Google Bard, Microsoft Bing Chat, Llama 2, entre otros. A esto, hay que sumarle el lanzamiento oficial de MidJourney, el sistema de inteligencia artificial que hizo posible ver esas fotografías del papa Francisco vestido con un moderno y caro abrigo blanco. ¿Lo recuerdas?

Estas imágenes se viralizaron en todo el planeta en cuestión de segundos y todos nos hicimos la misma pregunta: ¿Son reales estas fotos? ¿Si no son reales, qué puede pasar con esta nueva tecnológica? Para mediados del 2023, la palabra IA se hizo tan común a nivel laboral, estudiantil y gubernamental que nos hizo pensar que la inteligencia artificial recién había nacido cuando esta data de hace décadas.

Ya en la actualidad, con un reglamento en puerta, partamos por entender la naturaleza de este. Se trata de una ley pionera en Latinoamérica ya que Perú es el primer país de la región en elaborar una legislatura y un reglamento que se supone debería basarse en su ley madre. Sin embargo, esto no sería así según los expertos.

“Considero que este reglamento no está de acuerdo con lo que significa la ley (muy escueta, muy chiquita) porque tiene varias puntos que para mí son importantes de revisar porque muchos de ellos no tienen disposiciones habilitadoras legales, es decir, que se basan en principios muy generales. Este reglamento, por tanto, excede lo que intenta decir la ley porque crea nuevas obligaciones que no tienen una base legal”, sostiene María del Pilar Segura Velasco, investigadora asociada del Grupo de Investigación en Innovación y Transversalidad en Derecho Privado (GIT-PRI PUCP) en conversación con El Comercio.

En ese sentido, Erick Iriarte, experto en derecho digital, nos dice que este reglamento se basa en el borrador de lo que se venía trabajando en la Ley de Inteligencia Artificial de la Comunidad Europea pero va muchísimo más allá de lo que la ley le permite. Por tanto, es bastante inconsistente. “En este momento, hay un debate en el Congreso que pareciera tiene la intención de reparar esa ley originaria para que el reglamento calce porque tal como está el reglamento puede ser inconstitucional en muchos sentidos. Un reglamento solo puede desarrollar lo que la ley le dice que desarrolle, no pueden ponerse creativos”, señala.

Iriarte va más allá respecto a esta ley y sostiene que a nivel legal se está haciendo lo que quería evitarse. “Cuando tú regulas tecnología, porque aparece una nueva tecnología, en realidad estás regulando mal y en el caso peruano regulas en contra de lo que dice la política 35 del Acuerdo Nacional, la cual dice que para temas digitales se regulan conductas y no tecnologías. Un ejemplo, ahora en el Congreso hay 6 o 7 proyectos de ley sobre inteligencia artificial en transporte, en seguridad, en la Fiscalía, en los procesos judiciales, en educación y en medicina; o sea, estamos creando legislación paralela por la tecnología y eso es lo que se quería evitar. La puerta que han abierto creando una ley de IA es un absurdo”.

“La misma declaración de la OCDE sobre Inteligencia Artificial plantea los principios éticos sobre el uso de IA y si el Perú ya se había adherido a eso, para qué hacer una ley local”, agrega el especialista.

Sobre esta problemática, César Beltrán, Investigador líder del Grupo de Inteligencia Artificial PUCP, coincide con Iriarte al señala que al momento existen más de una docena de propuestas de ley que implican a la Inteligencia Artificial, “muchas de las cuales se solapan e inclusive se contraponen, usan definiciones diferentes para un término”.

“No contamos con una estrategia nacional de IA que oriente y se le destine recursos para su implementación. No tenemos capacidades de profesionales especializados en la tecnología, nuestras capacidades de infraestructura y datos son limitadas. Esta poca planificación y entendimiento del tema nos lleva a crear un desorden comenzando desde el gobierno”, agrega.

Con Segura Velasco analizamos parte de un capítulo de este reglamento: “El Artículo 15. Sistemas basados en inteligencia artificial de riesgo inaceptable” correspondiente al capítulo III: Gestión de Riesgos en los sistemas basados en inteligencia artificial.

“Este artículo te dice que lo que califique como inaceptable está prohibido pero no existe en la ley una habilitación legal en donde se establezca ese punto. De hecho, como es un artículo que es una prohibición a un ejercicio de un derecho, eso tiene que estar en la ley. Y para un desarrollador, un implementador que se dedica a desarrollar inteligencia artificial acá en Perú no tiene seguridad de que mañana más tarde pueda seguir las actividades que está realizando. Esta prohibición expresa que se lee en el reglamento y que no está establecida en la ley, es algo peligroso”, advierte.

En ese marco, Beltrán destaca tres puntos del reglamento que en su opinión son necesarios mejorar:

• En el artículo 3 (Definiciones), algunas definiciones podrían ser más precisas o completas, como la definición de “Inteligencia Artificial” que es bastante general.
• En el artículo 14.2, al enumerar los casos en que un sistema de IA se considera de riesgo alto de forma precautoria, algunos incisos son muy amplios o vagos, como el inciso b) sobre seguridad de infraestructura crítica.
• El artículo 16.1 establece obligaciones específicas para sistemas de IA de riesgo alto, pero algunas obligaciones son genéricas o podrían requerir mayor detalle sobre su implementación.
• Algunos artículos hacen referencia a lineamientos, guías o disposiciones complementarias que deben emitirse posteriormente, lo cual podría generar vacíos temporales hasta que estas sean aprobadas.
• Podría aclararse mejor la interacción y coordinación entre la Secretaría de Gobierno y Transformación Digital y otras entidades con roles en el uso y desarrollo de la IA, como la Autoridad de Protección de Datos Personales.
• En algunos casos, los plazos para la emisión de lineamientos complementarios (Disposiciones Complementarias Finales) podrían ser muy extensos (hasta 1 año).

Vayamos a hechos concretos que nos llegan y se quedan en nuestro día a día. Las mencionadas fotografías hechas por la IA del Papa Francisco o de Trump, y sin ir muy lejos, el tema “Amor, yo te perdí la fe”, que Pedro Suárez Vertiz recreó con su voz poco antes de morir en diciembre pasado, o a casos ya tan cotidianos como son usar la IA para hacer una tarea de colegio o de universidad.

Sobre este punto, Segura Velasco nos explica que “en principio tenemos algunas leyes transversales que nos podrían brindar seguridad. Por ejemplo, la Ley de Protección de Datos Personales es bastante amplia, por tanto, no es necesario hacer un cambio en la ley para que esta diga ‘la ley de datos también incluye inteligencia artificial. En cuanto a temas de publicidad, también, por ejemplo, al día de hoy se sanciona si esta es errónea o induce al engaño”.

En cuanto a los derechos de autor, la abogada señala que este es un tema que al día de hoy se está perfilando pues tiene muchas aristas legales y considera que Indecopi tiene la competencia para resolverlo. En ese sentido, considera que no es necesario crear una nueva ley que establezca esta problemática porque hay que ver caso por caso y ver si bajo la ley de datos de derechos de autor es posible analizar este tipo de instrumentos y eso se va a hacer con la jurisprudencia del día a día, de cada caso.

“Yo creo que la ley de derechos de autor tiene facultades lo suficientemente amplias para analizar en un caso concreto, una posible vulneración al derecho de autor. Es decir, actualmente cualquiera puede utilizar la herramienta que quiera para vulnerar un derecho. El derecho ya existe así como el sistema de cuestionamientos. Entonces, solo falta, por así decirlo, un caso que todavía no se ha dado pero eventualmente se va a dar, para que este sea analizado por la autoridad, es decir, por Indecopi. Y esto no significa que tenga que haber un cambio en la norma o que tenga que establecerse a través de otro reglamento. Esta sobre regulación más bien podría generar confusión en el usuario que al final, no sabría a dónde acudir: Ok, voy al Indecopi, voy a la Secretaría, ¿A dónde voy?

¿Entonces, quién es la autoridad competente? es la pregunta que plantea Iriarte. “La Secretaría de Gobierno y Transformación Digital (SGTD) pero esta es un organismo diseñado para uso de tecnología en el sector gubernamental. Ok, si tu sector es el sector gubernamental, experimenta con tecnología pero ¿Por qué vas a regular de una manera restrictiva el uso de la tecnología en el sector privado que puede hacerlo para innovar? Es un contrasentido. Las facultades que tiene la Secretaría no han sido diseñadas para ir más allá de sus funciones gubernamentales. Sin embargo, van más allá y quieren regular en la sociedad civil, en la Academia, en el sector privado. Y es que en el Perú no hay un ente articulador del tema digital, hay una Secretaría de Gobierno Digital Pública para los organismos públicos. ¿O es que ahora el Estado le va a decir al sector privado qué puede investigar y cómo desarrollar tecnología?”, se pregunta.

Ya para cerrar este tema, Beltrán sostiene que bien el reglamento podría generar una mayor conciencia y compromiso de entidades públicas y privadas para un uso responsable de la IA o una atracción de talento e inversión en ecosistemas de IA en el país, en el actual documento no se establece un camino claro ni los recursos para su efectiva implementación, lo cual podría limitarlo significativamente y quedar solo como un texto declarativo.

“Algunas de las deficiencias que observa el investigador en ese sentido son:

• No se asignan recursos económicos ni presupuesto específico para que las entidades públicas puedan cumplir con las obligaciones que el reglamento les impone en materia de IA (equipos multidisciplinarios, gestión de datos, evaluaciones de riesgo, etc).
• Si bien promueve el desarrollo de capacidades y talento en IA, no queda claro un plan de acción ni recursos para programas de formación a niveles técnico, pregrado y posgrado; atracción de expertos, etc.
• La creación de infraestructura y centros dedicados a IA (Centro de Innovación en IA, Centro de Computación de Alto Rendimiento) se menciona, pero no se detalla un presupuesto ni plan para su implementación efectiva.
• No se establecen metas cuantificables ni indicadores para medir el avance en el desarrollo y adopción responsable de la IA en los distintos sectores.
• Los plazos para la emisión de lineamientos complementarios son muy amplios (hasta 1 año), lo que podría retrasar la implementación práctica.

Iriarte, por su parte, se pregunta si hace años estamos haciendo uso de la IA en el Perú, entonces ¿Qué estamos regulando? “No el uso sino el temor del uso”, sostiene.

“Lo que falta en el Perú es una instancia que coordine los esfuerzos de los diversos sectores sociales: sociedad civil, sector privado, academia, gobierno, tal y como dice la política 35 del Acuerdo Nacional en temas de sociedad digital. Que vea múltiples temas, que genere políticas, líneas de acción, una agenda digital efectiva”, señala.

Una de las fallas que apunta Iriarte, en las que hemos caído desde hace 5 o 6 años, es que “hemos construido un tema digital desde la regulación y no desde el desarrollo de las capacidades de las personas”.

“La gente entró en la pandemia y y tuvo que hacer tele educación y el teletrabajo. ¿Alguien les enseñó? y había ya IA. La Inteligencia Artificial tiene más de 100 años, el problema de ahora es no entender el problema real. Es decir, ¿Qué vamos a hacer con la tecnología? Y eso no se dice”.

Tú también puedes aportar a la elaboración del reglamento de Inteligencia Artificial en Perú

Hasta el 1 de junio puedes enviar tus aportes para mejorar y enriquecer la propuesta de reglamento en el marco de la Ley N° 31814, elaborada por la Secretaría de Gobierno y Transformación Digital (SGTD) de la Presidencia del Consejo de Ministros (PCM).

Luego de revisar el proyecto de ley, llena el formulario colocando tu correo electrónico y envía tus aportes.