“Muchos estudiantes de hoy no creen que las generaciones más antiguas escribían reportes de 10 páginas sin usar IA”

La inteligencia artificial (IA) avanza tan rápido que casi no hay tiempo para asimilar con propiedad las enormes interrogantes sobre su impacto en nuestra vida diaria. Los propios gigantes de esta tecnología advirtieron en las últimas semanas sobre sus riesgos y pidieron desacelerar su desarrollo. El debate tiene un lugar importante en el campo de la educación, campo en el que se habla cada vez más de los potenciales efectos negativos de la IA en el aprendizaje y el pensamiento crítico de millones de estudiantes en todo el mundo.

El Comercio conversó con Michael Hsieh, investigador de la Universidad de Stanford especializado en IA y ciberseguridad, quien llegó al Perú invitado por la Embajada de EE.UU. para abordar los retos de la IA en las aulas y las carreras del futuro. Si bien aboga por no caer en un pánico injustificado ante su uso, apunta que si aprovechamos esta tecnología de la manera correcta, “podemos reproducir todo lo que era bueno sobre la educación humana y solucionar muchas cosas que eran malas”.

También expresa su preocupación por el aumento de una ‘rendición cognitiva’ en nuestra sociedad, algo que, considera, ya se ve en todos los niveles de la educación y en todas las áreas y en muchas profesiones.

-En las últimas semanas ha habido mucho debate sobre los riesgos de la inteligencia artificial, ¿ve algún escenario en que esta tecnología pueda volverse una amenaza para la humanidad?

Creo que esa es tal vez la pregunta más importante y la única pregunta que se está escuchando en Estados Unidos en este momento. No solo entre los políticos, sino entre los inversores y entre los laboratorios de IA. Y creo que no solo pasa en Estados Unidos. Es una buena pregunta porque creo que fuerza una examinación muy fundamental sobre cómo funciona esta tecnología. Algunas personas creen que efectivamente hay un riesgo y tenemos que desacelerar su desarrollo. También hay otras que piensan que esa es una creencia exagerada. Y creo que porque el lado del debate que argumenta que esto es muy peligroso ya está muy bien vocalizado y muy bien articulado, voy a tomar el otro lado del debate, voy a intentar describir cómo piensan los que creen que esto no va a ser un tema serio.

-¿Cuál es su principal argumento?

Ese lado cree que la inteligencia artificial no va a ser una amenaza universal para la humanidad porque la IA realmente no piensa, no razona, lo cual es una declaración peculiar porque llamamos a esta tecnología inteligencia artificial. La palabra inteligencia está en su nombre. ¿Cómo puede ser que esta cosa no piense y no razone? La razón por la que ellos creen que la IA no piensa es porque ven a la inteligencia artificial como un ejercicio estadístico. Por ejemplo, si yo soy la AI y me haces una pregunta, entonces lo que estoy haciendo ahora mismo, si soy uno de los grandes modelos de frontera, es mirar de vuelta todo lo que he aprendido del Internet, desde que el Internet ha estado presente, y todas las otras fuentes también, y voy a adivinar, basándome en las estadísticas, cuál es la siguiente palabra que debería poner al frente de mi frase para darte una respuesta coherente. Entonces tienes una IA que parece tener conversaciones muy vivas y humanas con la gente. Pero si paramos por un segundo, es debatible si eso realmente es pensar.

Creo que mientras tengamos este debate es muy importante que nos aseguremos de que ambos lados, y ambos lados tienen gente con mucha credibilidad, puedan ser escuchados, porque no creo que queramos tener un escenario en el que se cree un pánico injustificado sobre el progreso de la inteligencia artificial.

-El debate es más sensible cuando se toma en cuenta el futuro de los más jóvenes, o incluso su presente. En cuanto a Educación, ¿cómo están evolucionando las aulas con el avance de la IA?

He pasado mucho de mi tiempo en la educación, he enseñado a muchos estudiantes en mi carrera, así que definitivamente tengo algunas opiniones sobre esto que vienen de mi propia experiencia. Déjame dar un paso atrás por un segundo y hablar de la tecnología en la clase, no solo de la inteligencia artificial en la clase. Creo que lo que hemos aprendido en las últimas dos décadas es que poner demasiada tecnología en la clase es un error. Cuando miras los estudios académicos sobre, por ejemplo, el efecto de poner laptops en la clase, hay una evidencia bastante fuerte y creciente de que el efecto de esas laptops no es positivo en la atención de los niños, en su capacidad de retener información, incluso en las cosas pequeñas. Por ejemplo, a nivel psicológico, si escribes algo con un lápiz, esa información se mantiene en tu mente de forma mucho más persistente que si la escribieras en el teclado. No sabemos por qué exactamente, pero sabemos que es así.

Creo que, para empezar, poner demasiada tecnología en la clase ya tiene costos en aspectos que nos importan. Si agregas la inteligencia artificial a eso, esta tecnología simplemente comparte los mismos problemas. Y veo que en Estados Unidos, por ejemplo, hay muchas universidades y escuelas que están prohibiendo las laptops y la tecnología en la clase. En algunas maneras, la tecnología es emocionante, pero creo que las últimas dos décadas nos han enseñado que más tecnología no siempre es mejor, especialmente en clase.

“Las últimas dos décadas nos han enseñado que más tecnología no siempre es mejor, especialmente en el salón de clase”

-La última prueba PISA reveló que el 46% de los estudiantes de los países de la OCDE utilizan chatbots de IA semanalmente o con mayor frecuencia para ayudarlos a aprender. Al mismo tiempo, hay países y padres de familia que temen el impacto de esta tecnología en el desarrollo de los alumnos. ¿Qué opina de eso?

En este caso tengo un punto de vista un poco diferente de las visiones más polarizadas. Obviamente, como ya he mencionado, hay una visión extrema que se manifiesta vehementemente en contra de esta tecnología y señala que deberíamos evitar la inteligencia artificial en la educación. Y hay otros que dicen “bueno, como esto se va a usar en el trabajo y en la industria, deberíamos cambiar completamente el sistema educativo y asegurar que los estudiantes siempre tengan acceso a la inteligencia artificial”. Yo estoy en medio de estas posturas.

Daré un ejemplo muy concreto. Yo enseñaba mucha matemática a los estudiantes que se iban a graduar y a los ya graduados. Y lo que encontré es que, al menos en matemáticas, hay una forma muy fundamental de convertir a cualquier estudiante en un buen estudiante. Y así es cómo lo haces. Primero, tienes que hacer un examen para saber dónde está el estudiante. Muéstrame algunos de tus exámenes, muéstrame algunos de tus trabajos en casa y déjame ver con qué conceptos estás batallando un poco. Segundo, vamos a volver a aprender esos conceptos e iremos tan atrás como necesitemos. Y tercero es que te voy a construir muchos problemas, customizados para tu comprensión, para probar tu comprensión. Y si puedes resolver esos problemas, entonces tengo confianza como profesor de que entiendes los conceptos. He hecho esto muchas veces, durante décadas, con muchos estudiantes. Siempre funciona. Y entonces pensé cómo en el pasado, desafortunadamente, tenías que ser un estudiante muy privilegiado para poder ir a Berkeley o Princeton para recibir ese tipo de enseñanza. Pero, ¿qué tal si pudiéramos hacer esto más justo? ¿Qué tal si cada estudiante pudiera obtener una enseñanza así?

-¿Qué respuestas encontró?

Lo que hice fue reproducir mi plan de lecciones y entrenar a ChatGPT para que pueda ayudar a los alumnos como yo lo hacía, respondiendo a sus propias dudas y ritmos. Funcionó perfectamente. Así que no quiero ser extremo sobre la inteligencia artificial. Sólo sé que en mi experiencia como profesor humano, con estudiantes humanos, sin IA, se probaron formas de buena enseñanza. Y creo que si usamos la IA de la manera correcta, podemos reproducir todo lo que era bueno sobre la educación humana y solucionar muchas cosas que eran malas, como son el acceso y la justicia, creando un escenario en el que no tenemos que aceptar que haya un mundo en el que solo los estudiantes más privilegiados puedan tener acceso a educación personalizada.

“Si usamos la IA de la manera correcta, podemos reproducir todo lo que era bueno sobre la educación humana y solucionar muchas cosas que eran malas”

-¿Qué opina de los estudios que relacionan el uso de la IA con una “rendición cognitiva”. Algunos de ellos advierten que el uso excesivo de la inteligencia artificial generativa puede provocar una reducción en el esfuerzo mental, afectando la memoria, la conectividad neuronal y el aprendizaje profundo.

Leo en las redes sociales que muchos de los estudiantes jóvenes de estos tiempos simplemente no creen que la gente de las generaciones más antiguas, como los millennials y Gen X, en realidad escribían reportes de 10 páginas sin inteligencia artificial, que simplemente se sentaban y los escribían. ¡Y por supuesto que nosotros escribimos esas cosas y a veces leíamos libros para hacerlo! Así que sí, me preocupa mucho que haya una “rendición cognitiva” en nuestra sociedad.

Los estudiantes que están por graduarse tienen los problemas más obvios. Pronto sus jefes les pedirán que escriban reportes o memorándums, que hagan cálculos y que entiendan el trabajo que están haciendo. El jefe les va a preguntar “qué es lo que acabas de decir hace un momento”. Si no pueden explicarlo, entonces no van a tener una buena carrera. Eso por un lado. Pero incluso las personas que están más avanzadas en sus carreras tienen este problema. Estamos hablando de quienes están en una categoría única, quienes pertenecen a lo que se llama una generación sandwich. Son las personas que crecieron sin IA, pero ahora tienen IA en sus lugares de trabajo.

-Y ocurre en prácticamente todos los campos…

Miremos a especialistas médicos. Por ejemplo, los radiólogos. Hay estudios que muestran que si les quitas sus herramientas de IA a los radiólogos que son un poco más antiguos, todavía realizan sus tareas muy bien. La AI les ayuda, pero no sufren una gran pérdida en su desempeño si no la tienen. En cambio, si le quitas la IA a los médicos de la generación post-IA, su desempeño sufre mucho más. Y eso es realmente muy angustiante porque es una forma de “rendición cognitiva” que tiene consecuencias de vida o muerte. Y esto no es solo una realidad en la medicina, es una realidad para los ingenieros que tienen que construir puentes y para otros que tienen trabajos de riesgo. Así que sí, creo que una sociedad con “rendición cognitiva” es algo que vemos en todos los niveles de la educación y en todas las áreas y en muchas profesiones, y es preocupante.

-¿Cuáles son las carreras del futuro si se tiene en cuenta el rápido avance de la IA?

Aquí quiero ser muy cuidadoso. Voy a ser honesto, creo que especialmente en los últimos 20 años, lo que llamaré “generaciones antiguas” han hecho un trabajo muy malo en dar consejo a los más jóvenes. Volvamos a hace 10 o 15 años, ¿qué les decíamos a los jóvenes en Estados Unidos? Aprendan a codificar. Y se enviaba a muchos chicos a campamentos tecnológicos y cursos para que aprendieran a hacerlo. Se creía que era una buena manera de encontrar un lugar en la tecnología y en la economía del futuro. Bueno, eso se volvió un mal consejo, porque ahora la inteligencia artificial puede escribir códigos tan bien que ya no están contratando ni a los desarrolladores junior de códigos de estos bootcamps. Y podría seguir dando ejemplos.

“Una sociedad con ‘rendición cognitiva’ es algo que vemos en todos los niveles de la educación y en todas las áreas y en muchas profesiones, y es preocupante”

-¿Qué se les puede decir a los jóvenes de hoy?

Yo no voy a dar consejos, pero sí quiero hacer algunas observaciones sobre lo que veo en la inteligencia artificial, y espero que estas observaciones ayuden a los jóvenes a reasumir su futuro, porque como persona mayor, he pasado por las altas y bajas de muchas tecnologías anteriores. Primero, por supuesto, hay que tener cuidado de a quién escuchas cuando recibes consejos. Tienes que preguntarte cuáles son sus intenciones. Si sus motivaciones son para tu éxito puede valer la pena escucharlo. Número dos, habrá algunas cosas en las que la inteligencia artificial va a ser muy buena, pero habrá otras en las que la IA va a batallar. Es decir, hay que tener en cuenta que la IA va a ser capaz de hacer muchas cosas que tienen una estructura lógica formal. Matemática, codificación, cosas de ese tipo, y podrá hacerlo extremadamente bien. Y tienes que planear tu carrera considerando que ya no te van a pagar por eso. Te podrían pagar por las cosas que se hacen alrededor de esos trabajos, pero lo otro va a ser altamente automatizado.

Lo tercero es que hay dos categorías donde la IA no es buena. La primera es la medicina y la biología. Y esa es una discusión mucho más larga, pero, fundamentalmente, los juegos estadísticos de la inteligencia artificial no funcionan tan bien cuando se trata de fenómenos biológicos, porque la biología es algo muy diferente a la lógica de la matemática. Es una discusión mucho más larga, pero lo dejaré ahí por ahora.

-¿Cuál es la otra categoría donde la IA no es tan buena?

Pienso en la voz con IA que te responde cuando llamas a atención al cliente. No sé cómo piensas tú, pero no me gusta hablar con una voz hecha con inteligencia artificial. Quiero hablar con un humano. Incluso si el humano hace un peor trabajo que la Inteligencia Artificial, todavía prefiero hablar con un humano. No creo ser el único. Y no puedo explicarlo científicamente. No puedo darte una razón exacta y cuantitativa de por qué siento que no acepto esa voz robótica y de por qué no me gusta. Incluso si hacen que la voz suene muy humana, aún así sé que es un robot y simplemente no me gusta. Habrá muchas cosas por las que los humanos no aceptarán que una máquina sustituya a otro humano. Así que si quieren planear sus carreras, sepan que hay cosas nunca se aceptarán.

“Incluso si un humano hace un peor trabajo que la IA, todavía prefiero hablar con un humano”

-¿Está de acuerdo en desacelerar el desarrollo de la IA, como han pedido algunos líderes de esta tecnología?

En algún sentido es una nueva declaración. Pero durante los últimos dos o tres años, y también en el pasado, hemos escuchado este tipo de declaraciones. Creo que las personas deberían ser muy cuidadosas en sacar conclusiones porque este tema es muy sensible y no todos los hechos son de dominio público.

-¿Debería haber regulación en el uso de esta tecnología? ¿Ve posible que ocurra a nivel internacional?

Ahora mismo hay una controversia muy fuerte entre algunos matemáticos que están usando algunos modelos de inteligencia artificial para hacer su trabajo de investigación para romper la solución a un problema abierto de 200 años, el problema de Navier-Stokes, lo que obviamente es un gran avance. Y ellos señalan que OpenAI podría haber usado sus inputs para enriquecer sus modelos y para llegar a una solución con sus propios modelos. Incluso asumiendo buenas motivaciones de cualquiera de las partes, OpenAI dio una declaración muy inteligente, en el sentido de que dijo que no podía asegurar que sus modelos no se hubieran beneficiado de investigaciones previas de otros científicos, aunque ha negado las acusaciones directas de plagio. La empresa dijo “no podemos regularlo”, “simplemente no lo sabemos”.

Y eso nos regresa a la primera pregunta de esta entrevista. Y es que debido a que estos son procesos estadísticos muy dimensionales y muy opacos, es difícil para nosotros desmantelar la máquina, abrir la caja, y descubrir exactamente qué sucedió. En resumen, si no queremos que la IA haga ciertas cosas, no hay un camino claro. Nuestra comprensión de cómo funciona la máquina por dentro, irónicamente, es tan limitada que incluso si queríamos imponer reglas A, B y C, no hay un conjunto técnico claro de soluciones con las que podemos obligar a la máquina a no hacer ciertas cosas. Y ese es en algún sentido la fuente del poder de la inteligencia artificial, pero también es una limitación, porque si queremos imponer este tipo de controles sobre nuestras propias tecnologías, la naturaleza única de esta tecnología hace que sea increíblemente difícil hacerlo desde un punto de vista técnico.