#HayFestivalArequipa ¿Las máquinas podrán seguirían códigos morales impuestos por los humanos?

Desde que inició el largo viaje de la civilización, hace más de 10.000 años, el ser humano ha convivido con máquinas: desde las herramientas rudimentarias que ampliaron la fuerza de sus brazos hasta los sofisticados engranajes que permitieron la Revolución Industrial. Máquinas fuertes, veloces, inimaginablemente complejas, pero todas subyugadas a la supervisión de la mente humana. Hasta ahora. O, mejor dicho, hasta que se empezaron a gestar las primeras generaciones de máquinas hechas para pensar. Máquinas estructuradas por sistemas que imitan, multiplican y revolucionan el raciocinio humano, y que están empezando a tomar decisiones más allá de la mente que las creó.

Mientras ese futuro disruptivo en el que conviven hombres y máquinas pensantes se acerca cada vez más, se abre una nueva inquietud en el mundo contemporáneo. El físico español José Ignacio Latorre la resume así: “Todos percibimos que la transición de la máquina fuerte o veloz a la máquina inteligente es un salto brutal. Sin duda, estamos penetrando un territorio desconocido. Los humanos nunca destacaron por su fuerza o por su velocidad, fue su inteligencia lo que les permitió sobrevivir y dominar para bien y para mal a las demás especies. Por lo tanto, la paradoja está servida: si creamos máquinas intelectualmente superiores a nosotros mismos, ¿qué significa ser humano?”. Latorre se plantea esta pregunta en Ética para máquinas, un libro que tiene tanto de tratado científico y prospectivo como filosófico, y que plantea que nuestro legado final como especie será el dotar de ‘alma’ o de ‘códigos morales’ a esos seres-máquinas del futuro, a esos entes artificiales que nos sucederán en lo que Latorre llama “evolución enloquecida”, a la que estamos sometidos los humanos desde tiempos inmemoriales.

** *

José Ignacio Latorre prefiere responder las preguntas por correo electrónico. El próximo 8 de noviembre, en Arequipa, conversará con Carolina Robino sobre esos códigos morales que los humanos deberíamos delegar a las máquinas, una discusión que —contra lo que muchos piensan— no es quimérica. Aunque la inteligencia artificial avanzada y ubicua todavía tardará un tiempo en llegar, lo cierto es que en estos momentos ya existen sistemas controlados por algoritmos o carros autónomos circulando a prueba en las calles de diversas ciudades en el mundo, coches que deben tomar decisiones a cada instante sobre qué hacer en la ruta ante un accidente o imprevisto. Por ejemplo, ¿qué vidas deberían priorizar?, ¿las de los ocupantes del vehículo o del peatón que se cruzó en su camino?

“Un coche autónomo tomará decisiones en milésimas de segundo. Qué decisión tomará dependerá de cómo lo programemos. En ese punto entra la ética”, dice Latorre. “Somos nosotros los humanos —añade— quienes hemos de decidir de forma consensuada qué leyes regirán la programación de entidades autónomas y quién será responsable de su posible mal funcionamiento. No es válido girar la cabeza y mirar a otro lado. Si lo hacemos, otros decidirán por nosotros. Y, seguramente, lo harán con sesgos determinados, motivaciones económicas y nula reflexión de interés social. Programar inteligencia artificial avanzada es sinónimo de definir la ética del futuro”.

Sin embargo, pide no caer en alarmismos. Eso está bueno para episodios de Black mirror, no para la realidad. “Es cierto —destaca— que los medios y la sociedad en general tienden a tener una visión negativa de cualquier avance tecnológico. Nuestra historia así lo aconseja. En la Revolución Industrial, no fuimos capaces de utilizar máquinas potentes para aliviar nuestro trabajo sin dañar a nuestro medio y crear fábricas inhumanas. La transición a una tecnología disruptiva es compleja, pero no necesariamente mala. Dudo que ahora alguien quiera renunciar a los calmantes o los antibióticos. El progreso nos ha hecho longevos, nos ha dado confort. La inteligencia artificial no debe ser vista como algo necesariamente dañino, sino como una transición inevitable que debe ser supervisada desde el sentido común”.

** *

Uno de los capítulos de Ética para máquinas trata sobre cómo, a partir de la imitación del funcionamiento de nuestro cerebro, se han ido creando algoritmos genéticos, redes neuronales artificiales, profundas, a las cuales se les está enseñando a aprender. “Casi da miedo”, advierte Latorre. Pero asegura: “El límite de la inteligencia artificial está en nuestra imaginación […] Las redes neuronales artificiales pueden ser tan abstrusas como el propio cerebro humano. Es fascinante”.

Si es posible educar a una red neuronal artificial para enseñarle a reconocer un rostro, una voz, para que pueda programar a otras máquinas, también se le podría instalar un sentido ético, algo mucho más complejo que las famosas leyes de Asimov (“un robot no puede dañar a un ser humano o permitir, por inacción, que ello suceda”). Aquí se trata de que la inteligencia artificial que ya se usa, por ejemplo, en sistemas jurídicos en Estados Unidos, no tenga sesgos racistas ni sexistas a la hora de ejecutar una acción.

“En Europa —cuenta Latorre—, la Comisión Europea hizo públicas, hace unos meses, las directrices que deben regir la inteligencia artificial. También ha legislado de forma detallada sobre la protección de los datos personales. Sin duda la ley es lenta, pero se hace efectiva. El problema principal es que en muchos países la clase política está poco preparada en temas científicos y tecnológicos. Esta situación no es deseable. Nuestros legisladores deben ser personas preparadas, deben informarse de forma fidedigna no sesgada, dado que deben legislar sobre nuestro futuro”.

Pero todo esto todavía está en pañales. Latorre va más allá y llega a plantear que, si algo vamos a legar al futuro como esencia humana, podría ser eso que en el pasado se llamó ‘alma’, en el sentido de bondad, de hacer el bien. Una ética que —a pesar de las hecatombes producidas por nuestra especie— nos ha acompañado hasta ahora y que puede servir, como asegura el científico español, para “propiciar el próximo salto en inteligencia”. Así sea.

MÁS DATOS

El físico José Ignacio Latorre presentará la charla “Ética para las máquinas” junto a Carolina Robino el viernes 8 de noviembre a las 16:00 en la Universidad Nacional de San Agustín (sala Mariano Melgar). Adquiere tus entradas en www.hayfestival.org/arequipa