Se promulgó la Ley que promueve el uso de la IA en Perú: ¿por qué es importante y en qué se diferencia de la norma europea?

De acuerdo con el mismo Congreso, esta ley busca “fomentar el desarrollo económico y social del país, en un entorno seguro, que garantice su uso ético, sostenible, transparente, replicable y responsable”. Debido a que hasta entonces no había ninguna normativa con respecto a la inteligencia artificial, se inicia con esta ley, que ya ha sido publicada en el diario El Peruano, y cuyo rector será La Secretaría de Gobierno y Transformación Digital de la Presidencia del Consejo de Ministros.

LEE TAMBIÉN: Una mujer creó a su propio esposo con inteligencia artificial

¿En qué consiste y por qué es importante la Ley Nº 31814, Ley que promueve el uso de la inteligencia artificial?

De acuerdo con Óscar Montezuma Panez, abogado especialista en tecnología, la ley solo necesitaba ser aprobada por el Ejecutivo. “El proyecto de ley se acababa de aprobar en el Congreso y estaba pendiente de ser observado. Se estaba esperando el plazo para que el Ejecutivo la observe. Pero no la ha observado y ha sido promulgada en el diario El Peruano”, señala en entrevista con El Comercio.

A diferencia de lo que se podría pensar, esta ley no regulará la IA. “La ley es básicamente declarativa. ¿En qué sentido? Contiene una definición de lo que es inteligencia artificial y una serie de principios generales, entre los que están el principio de gestión de enfoque de riesgos. Esto me parece muy importante porque también ha sido recogido por las normas europeas que se acaban de aprobar”, agrega.

"La ley es básicamente declarativa. ¿En qué sentido? Contiene una definición de lo que es inteligencia artificial y una serie de principios generales, entre los que están el principio de gestión de enfoque de riesgos"

Sin embargo, esta ley es importante porque da una base para lo que se puede hacer en el futuro. “Es el primer antecedente en el marco legal peruano que regula un fenómeno tecnológico tan nuevo como la inteligencia artificial. Es declarativa porque no entra al fondo del tema, no entra a regular supuestos específicos de uso de la inteligencia artificial. Sino, que se queda en la parte de definiciones, de principios y de fomentar el uso de la IA de manera segura y responsable. Lo que debería ocurrir después es que, a nivel ya del reglamento de esta ley, se entre a los detalles de fondo”, indica el abogado.

Entonces, ¿cómo beneficia a los peruanos que exista esta primera ley? “Beneficia porque se convierte en un precedente muy importante y nos coloca, digamos, entre los primeros países de la región que habrían expedido una ley sobre inteligencia artificial. Es el primer paso”, asegura.

De esta manera, otras leyes relacionadas a la inteligencia artificial se podrían generar en el país en base a esta. Incluso, la regulación del desarrollo y uso de esta tecnología en Perú podría realizarse a la par de otras regiones o países. Pero, ¿quiénes deberían revisar estos temas, como la regulación? ¿Que lo hagan solo los congresistas o La Secretaría de Gobierno y Transformación Digital de la Presidencia del Consejo de Ministros es suficiente?

MIRA: La inteligencia artificial no ganará Grammys: nueva regla determina que solo se premiarán músicos humanos

Según Willy Ugarte, docente de la maestría en Data Science de la Escuela de Postgrado UPC, se necesitan expertos en esta tecnología. “Existe una gran variedad de profesionales relacionados al uso y desarrollo de IA, en específico los científicos de computación, ingenieros de software y afines. Ellos deberían participar en la regulación del uso y desarrollo de la IA en el Perú”, afirma en conversación con este Diario.

Asimismo, los abogados expertos en tecnologías también deberían asesorar este tipo de temas. “Se necesita también el apoyo de profesionales del derecho para ver su impacto en otras leyes o reglamentos. Por ejemplo, los derechos de autor de las obras generadas por modelos generativos como GPT o Midjourney”, añade.

Esto se debe a que la inteligencia artificial se puede aplicar en todos los sectores de la sociedad, pero en muchos casos necesita supervisión humana. “En teoría es posible utilizar IA en cualquier sector, pero es muy difícil aplicarlo en algunos, como el tratamiento y diagnóstico de salud. Existen varias aplicaciones que procesan imágenes para ciertos diagnósticos a partir de placas de rayos X o se pueden hacer ciertas consultas a pacientes con chatbots”, señala Ugarte.

Si bien la IA puede ser una gran herramienta en estos sectores, no puede reemplazar a las personas. “No es para nada recomendable reemplazar la consulta, el diagnóstico y opinión de un médico calificado por la de un modelo predictivo. Lo mismo sucede en la educación. Existen varias herramientas de IA como apoyo y mejora de experiencia educativa, pero ningún modelo podrá reemplazar al docente”, asevera.

MIRA: Esta IA puede identificar las canciones que tendrán éxito con un 97% de precisión

¿En qué se diferencia la norma peruana sobre inteligencia artificial de la norma europea?

El 14 de junio, el Parlamento Europeo aprobó la Ley de Inteligencia Artificial que se está negociando en Bruselas para impulsar su desarrollo, limitando a su vez los posibles riesgos. Entre las demandas del ente europeo se encuentra la prohibición de la vigilancia biométrica en tiempo real en espacios públicos, así como la necesidad de regular modelos que generan contenido audiovisual y de textos.

A diferencia de la norma peruana, la europea no solo revisa las bases sobre lo que es la inteligencia artificial o establece que esta debe servir a los ciudadanos y la sociedad. Pues, la normativa aprobada por el Parlamento Europeo busca regular el uso y desarrollo de la IA, así como dar una directiva de cómo se debe hacer.

MIRA: Portugal quiere usar ChatGPT para contestar llamadas de emergencia

“La norma europea no es una norma declarativa. No solo declara principios y definiciones, sino que va un poco más allá. Recoge el principio de enfoque de riesgos. Es decir, no se regula la inteligencia artificial de manera absoluta, sino que se pone énfasis en aquellas actividades de alto riesgo”, afirma Montezuma.

Estas actividades son las que podrían vulnerar las normas de la sociedad o los derechos fundamentales del ser humano. “Se establece una serie de principios que aplicarán, específicamente, a esas actividades de alto riesgo. ¿Cuáles son esas actividades? Por ejemplo, el uso de de inteligencia artificial con tecnología biométrica, para gestionar infraestructura crítica, para gestionar servicios públicos de un país, para temas de controles migratorios, o de observancia de la ley”, añade.

Específicamente, las actividades de alto riesgo consideradas en la normativa europea son:

• Identificación y categorización biométrica.
• Gestión de infraestructuras críticas.
• Educación y formación profesional.
• Empleo, gestión de trabajadores y acceso al trabajo por cuenta propia.
• Servicios públicos y privados esenciales.
• Aplicación de la ley.
• Migración, asilo y control fronterizo.
• Componentes de seguridad en productos.

La norma europea también regularía el uso de los modelos de IA que generan contenido, como ChatGPT o Midjourney, los cuales se han vuelto muy utilizados. “En términos simples, un modelo generativo, por ejemplo, GPT se entrena sobre un montón de datos (textos, imágenes, etc.) para aprender patrones sobre ellos, y luego generar más datos (textos, imágenes, etc.). En otras palabras, GPT es un modelo entrenado con un montón de textos para generar textos”, indica Ugarte.

Estos modelos son muy populares debido a su gran capacidad y rapidez de generar resultados, pero también podrían ser utilizados de mala forma. “Las consecuencias pueden ser muy positivas, facilitando el trabajo de redactores o diseñadores, dándoles ensayos o imágenes como insumo para inspiración como base para sus trabajos. O muy negativas, como alumnos utilizando ensayos fabricados para obtener calificaciones o los derechos de autor sobre las imágenes generadas sobre obras existentes”, agrega.

"Las consecuencias pueden ser muy positivas, facilitando el trabajo de redactores o diseñadores, dándoles ensayos o imágenes como insumo para inspiración como base para sus trabajos. O muy negativas, como alumnos utilizando ensayos fabricados para obtener calificaciones o los derechos de autor sobre las imágenes generadas sobre obras existentes"

Por ello, la regulación que se ve en la ley europea busca que se sigan unos parámetros sobre el desarrollo y uso de la inteligencia artificial, pero también que se abra el debate público sobre la ética dentro de esta tecnología. “Aún no existe un consenso mundial sobre los principios éticos de desarrollo de IA, pero varios países han generado regulación o guías de desarrollo”, señala el docente.

Estos siguen principios que varían dependiendo del lugar, pero tienen un fin en común: que la IA sea utilizada para el bien del país. “En Australia, por ejemplo, el Gobierno propone ocho principios éticos para la IA: bienestar humano, social y ambiental; valores centrados en el ser humano; equidad; protección de la privacidad y seguridad; confiabilidad y seguridad; transparencia y explicabilidad; contestabilidad; y responsabilidad. Estos principios que debe seguir el desarrollo de modelos de IA son restricciones para su uso. No limita su potencial, sino que lo regula para no tener consecuencias no esperadas”, añade.

MIRA: El 73% de los internautas confía en los contenidos que produce la IA: la usan en sus finanzas, salud y vida personal

Por ello, la norma europea busca simplificar la regulación a lo que sí podría afectar a la sociedad y el ser humano. “No es que regula el tema de manera absoluta y amplia. De alguna manera, permite que se enfoque toda la energía en aquellas actividades que preocupan y no en todo, porque definitivamente estamos hablando de una tecnología que también puede generar muchos beneficios en términos de eficiencia de gestión, de conocimiento, de productividad”, remarca Montezuma.

Así, esta normativa podría convertirse en el modelo a seguir para el resto de regiones. “La norma europea es importante porque se va a convertir en el referente internacional más importante a tomar en cuenta cuando se empiece a regular el tema a detalle en Perú y en otros países del mundo”, concluye.