Gurú ‘tech’ de Amazon.com: “Uno de los problemas que hemos tenido es que esta tecnología (la IA) se lanzó sin educar a la gente”

Vogels, que es doctor en Ciencias de la Computación, estuvo en nuestro país para participar del AWS Community Fest Perú y conversó con Día 1 sobre el surgimiento de tecnologías con propósito social, el impacto y los riesgos de la IA y lo que debemos esperar con la computación cuántica.

Newsletter exclusivo para suscriptores

Maro Villalobos te revela antes que nadie las claves del mundo económico y empresarial, cada sábado.

Recíbelo

-¿Cómo se prepara cada año para su discurso, el principal en el re:Invent anual de AWS, sabiendo la gran expectativa que genera?

Esa es una muy buena pregunta. Durante varios años, definitivamente desde el lado de los desarrolladores, hubo muchos lanzamientos y eso te orienta en cómo vas a dar un discurso principal. En los últimos años, he comenzado a enfocarme en no hacer lanzamientos sino en cosas que en las que creo que los constructores y desarrolladores están experimentando dificultades o en las que podrían necesitar alguna orientación. Así que un año lo dedicamos a arquitectura pura, sobre la facilidad del sistema; luego, hablé sobre costos. En mi primera keynote, en el re:Invent 2012 también di consejos sobre qué deberíamos hacer, como por ejemplo diseñar pensando en el costo. Todo el mundo ignoró eso hasta varios años después, porque la economía estaba volviendo a caer y, de repente, la cantidad de dinero que gastas en toda esta tecnología empieza a importar. La presentación se llamó “El arquitecto frugal”. Dado el éxito y el impacto que tuvo en la gente la convertimos en una especie de pilar separado y hoy hay un sitio web llamado The Frugal Architect con toneladas de consejos. Y, luego, el año pasado noté que la gente estaba un poco confundida con nuestros 250 servicios diferentes. “¿Cómo elijo la arquitectura correcta? ¿Cuáles son las cosas correctas que debo hacer? ¿Cómo lo mantengo incluso si necesito construir algo grande? ¿Cómo podemos mantenerlo simple para poder gestionarlo?" Por eso el término que usamos en la keynote del 2024 fue “simplexidad”, es decir, ¿cómo hacemos las cosas complejas pero las mantenemos simples para poder gestionarlas? No te diré cuál será el tema de este año, pero quizás si hablas con algunos constructores y otras personas, puedas descubrir cuál podría ser.

MIRA: Las 4 claves de AWS Perú para crecer apostando por el uso responsable de la IA

-Justamente, el año pasado habló sobre el surgimiento de tecnologías con propósito, donde la búsqueda del bienestar y la resolución de desafíos humanos tienen prioridad sobre los intereses económicos. ¿Cuánto progreso ha notado en ese sentido?

Primero, era un patrón que ya había visto durante mucho tiempo. Cuando era mucho más joven pensaba que para hacer el bien necesitabas ser una organización sin fines de lucro. Lo que he aprendido en los últimos 10 años en Amazon es que ese no es el caso. Hay muchas empresas que hacen el bien y aun así obtienen buenas ganancias. Hace unos días estuve en la reserva Pacaya Samiria junto con una compañía para ver también cómo están trabajando con las comunidades locales. Ellos se aseguran que los jóvenes permanezcan en la localidad. Esta empresa pagó mucho más que el precio del mercado por los alimentos que ahí se producen, impulsando un ciclo donde fluye más dinero hacia el pueblo, así que pueden educarse, pueden obtener conectividad a internet, etc.

-¿Ha encontrado otros ejemplos?

Me sorprendió gratamente cuando me reuní con Belcorp. Se trata de una empresa que quiere hacer negocios, pero que una parte muy significativa de sus ganancias las destina a educar a las mujeres que venden sus productos. No solamente tratan de asegurar que sus asociadas puedan obtener un ingreso independiente y tomar sus propias decisiones, sino que reciban educación que va desde cómo hacer contabilidad, etc. Sigo viendo que hay tantas empresas jóvenes que ya no buscan convertirse en el próximo unicornio, sino que buscan resolver problemas que son realmente difíciles. Veo más y más negocios jóvenes haciendo esto para ayudar. Por cierto, estas empresas técnicas en general tienen un buen equipo tecnológico. Pero cuando miramos a las organizaciones sin fines de lucro apenas lo tienen, pese a que estos son extremadamente importantes.

-En otra de sus predicciones, señaló que desde este año la tecnología comenzaría a empoderarnos más que a distraernos, lo que finalmente llevaría a la mejora personal. ¿Cree que ya hemos empezado a dar los primeros pasos en ese sentido o es una predicción que tardará más en materializarse?

Creo que la IA generativa y algunos de los chatbots han afectado un poco mi predicción. Yo esperaría que la gente tenga el deseo de estar un poco más tranquila, de no ser continuamente impulsada por la tecnología. Pero es uno de los problemas más difíciles que hay en este momento. No porque la tecnología sea tan importante. Sí, juega un papel muy clave en nuestras vidas. Pero creo que muchas empresas han construido tecnologías que son muy adictivas. Eso significa que cada vez que te desplazas o haces lo que sea, obtienes un subidón de dopamina. Pero hay algo más que también sucede en tu cerebro. Se llaman receptores de dopamina D2, que controlan tu fuerza de voluntad. Así que no es solo que tengas la prisa de ver tu red social favorita, sino que no tienes control. Mi preocupación es que si empiezas a hacer esto a una edad muy temprana creas generaciones de adictos por venir, y puede que no sean adictos necesariamente a la tecnología. Hay una capacidad cerebral que cambia y necesitamos ser muy conscientes de eso. Si tu dispositivo Apple o Android te dice que pasaste 28 minutos más conectado esta semana en tu teléfono, ¿cambia tu comportamiento? En realidad no. Tenemos que esforzarnos un poco más.

“La tecnología por sí misma es imparcial, pero desafortunadamente hay bastantes malos actores por ahí. El mayor desafío que tenemos creo que es la seguridad”.

-Usted mencionó que el lanzamiento de la IA generativa sin suficientes advertencias y acompañado de una rápida adopción, ha traído como resultado una importante ola de desinformación y hasta confusión, especialmente a nivel gubernamental. Sin embargo, usted también dijo que empezaba a ver que ese ‘hype’ disminuía. ¿Ha disminuido ese entusiasmo excesivo?

Sí, creo que ese entusiasmo está disminuyendo un poco. Creo que la gente está siendo más realista. Veo clientes que dicen: “OK, he construido mi chatbot y ahora ¿cuál es el siguiente nivel de eficiencia que nos han prometido?” El problema es que la mayor parte de la información que los CIO (director de información) o CTO (director de tecnología) están obteniendo hoy proviene de los medios de comunicación. Quiero decir, cada día hay un nuevo modelo completamente nuevo. Creo que uno de los problemas que hemos tenido es que esta tecnología se lanzó sin educar a la gente. En el pasado, si teníamos una nueva tecnología, primero educábamos y luego lanzábamos la tecnología. Ahora, la tecnología se dejó caer en el regazo de la gente debido a la competencia por la búsqueda, pero sin educarlos.

-¿Y por qué ha sucedido esto?

Veo en bastantes empresas mucha ansiedad. “¿Qué debo estar haciendo?”. El ‘fear of missing out’ (FOMO, por sus siglas en inglés) o el “miedo a perderse algo” está ahí. Así que doy una solución simple: ¿por qué no solo hacen una pausa y se aseguran de que todo el mundo se eduque? La mitad de los 600 cursos gratuitos que tenemos en Skills Builders no tienen nada que ver con AWS, pero todos tratan sobre educar a la gente sobre la IA y las capacidades de la IA. Recordemos que la inteligencia artificial tiene 70 años y no dos. El término “IA” se acuñó por primera vez en 1956. John McCarthy lo acuñó y más tarde dijo una frase: “Tan pronto como funciona, ya no lo llamamos IA”. Eso lo estamos viendo en la empresa. Por ejemplo, en AWS tenemos un cuerpo de trabajo completo: reconocimiento de imágenes, publicación de videos, traducción, pronóstico, transcripción, estas docenas de servicios, todos servicios de IA. Ya no los llamamos IA, solo “reconocimiento de imágenes”, etc. Pero sigue siendo IA. Y al cubrir las nuevas tecnologías, han mejorado desde el ‘deep learning’ hasta el aprendizaje por refuerzo y los transformadores, y dentro de cinco años habrá algo diferente. Todavía no sabemos o no podemos hablar de cuál será esa diferencia, pero habrá algo. La IA generativa tiene un futuro enorme, pero debemos asegurarnos de que todos estén educados sobre cuáles son sus capacidades y cuáles son los riesgos. Y dado que cada semana hay cinco nuevos modelos, quiero decir, si los tecnólogos se confunden, la audiencia general está absolutamente confundida.

MIRA: MentorIA, la herramienta de inteligencia artificial para profesores que crea prompts educativos

-¿Cree usted que la tecnología priorizará las necesidades humanas por encima de todo lo demás?

La tecnología no hace nada, son los humanos quienes hacemos las cosas. Una de las preocupaciones que creo que todos deberíamos tener -y ya las tenemos- es que la IA, que nos ayudará a construir herramientas nuevas y tremendas, esté en manos de malos actores. Antes, los correos electrónicos de ‘phishing’ de mi banco solían ser de nivel aficionado. Lo mirabas y decías: “¿Es en serio?”. Ahora, los delincuentes usan 10.000 imágenes, 10.000 correos electrónicos de tu banco, entrenan un modelo de IA y parecen indistinguibles de lo perfectos que quedan. Así que ahora, de repente, siento que como tecnólogo, tenemos la responsabilidad de construir también tecnología para detectar este tipo de cosas. Pero sigue siendo la gente quien la usa. Tecnologías como estas, genéricas, no tienen bien o mal. Hay un gran libro de Juan Enríquez, “Right/Wrong: How Technology Transform Our Ethics” en donde se menciona que hay cosas que nuestros abuelos hubieran pensado “sí” o “no se puede hacer eso”.

-¿Como cuáles?

Por ejemplo, “¿fertilización in vitro? Sí”. “¿Construir un embrión en una placa de Petri? No, no se puede hacer eso”. Nuestros nietos se van a quejar con nosotros: “¿por qué no eliminaste ese gen de mi ADN que causa cáncer?” El tipo de cosas que consideramos aceptables y no aceptables cambian con el tiempo y bajo la influencia de la tecnología. La ética está extremadamente impulsada por la cultura y cuando la gente habla de una IA ética, yo digo “no, no”, porque la IA ética en el Perú podría ser bastante diferente de la IA ética en Chile o en Argentina. Todo se trata de la cultura. La tecnología por sí misma es imparcial, pero desafortunadamente hay bastantes malos actores por ahí. El mayor desafío que tenemos creo que es la seguridad.

-¿Para qué otra nueva tendencia tecnológica deberíamos estar preparados?

Hay algo que, probablemente, termine como una de mis predicciones de este año. Tiene que ver con la computación cuántica de aquí cinco o 10 años. Cuando veamos las primeras computadoras cuánticas, significará que cualquier cosa que hayamos cifrado hoy será inútil. Insto a mis clientes a un mundo de criptografía poscuántica, pese a que tenemos mucha tecnología para eso ya disponible en AWS. Los clientes necesitan empezar a prepararse ahora y no dentro de cinco años, porque asumo que los primeros en tener acceso a maquinaria cuántica serán los malos actores. Hoy podemos cifrar y descifrar, y el proceso tardaría mil años. Pero con la computación cuántica eso podría tomar solo 10 días. Así que, ya sabes: la cuántica resolverá una serie de problemas que ahora son impensables, en ciencias de la vida, en el descubrimiento de fármacos, en todas esas áreas. Pero los malos actores también tendrán acceso a ella y la industria necesita estar preparada para eso.