Néstor García Canclini: “La IA crea la ilusión de estar beneficiados”

Es uno de los pensadores más importantes y lúcidos de América Latina. El filósofo y académico argentino Néstor García Canclini estuvo de paso por Lima para participar en la conferencia internacional “Política Cultural y Desarrollo Sostenible: Un Diálogo Global” y recibir el grado de doctor honoris causa de la Pontificia Universidad Católica del Perú. En medio de estas actividades, conversó con este suplemento sobre las implicancias de las redes sociales y la IA en una época en la que, inevitablemente, los datos personales se han convertido en la preciada materia prima de las poderosas corporaciones tecnológicas.

LEE TAMBIÉN | La neurona del concepto Jennifer

—¿Cuáles son los cambios más significativos que encuentra en la vida contemporánea a partir del auge de las redes sociales?

La aparición de internet, de las redes sociales y, recientemente, de la inteligencia artificial están trayendo una reorganización radical de los modos de convivir y de comunicarnos con lo que no está presente. Hay una suspensión de la presencia física y real de los cuerpos, y esta pasa a ser sustituida por una comunicación a distancia con personas que no conocemos e incluso con entidades fantasmales de las que suponemos su existencia. Entonces, por una parte, tenemos esta sustitución de la presencia física y, por otro, una desposesión de los datos, de la información constitutiva de las personas. Aunque quisiéramos evitar esto, no podríamos hacerlo, porque esta comunicación digital es indispensable para trabajar, estudiar y para relacionarnos con los otros e incluso para conocer los resultados de los exámenes médicos que nos realizaron.

—En ese aspecto, usted ha trabajado el tema de la ciudadanía moldeada a partir de algoritmos…

Las redes, las plataformas, en general, son consumidas por individuos. El smartphone se dirige al individuo, al poseedor del aparato y no interpela a comunidades… Es, en cierto modo, paradójico, porque tenemos mucha más información, con diversidad de fuentes, pero lo que prevalece es la interpelación a sujetos aislados y con bajas posibilidades de contrastar esa información con evidencias concretas. Por ejemplo, nos cuentan que sucedió algo en Río de Janeiro, en Nueva York o en Gaza, pero la información de esos hechos que antes era recogida por periodistas que escribían en medios distintos, con marcos interpretativos diferentes, pasa a ser articulada algorítmicamente, y seleccionada de manera mucho más sesgada.

—Algoritmos que validan o refuerzan creencias…

Hay un ejemplo que doy en Ciudadanos reemplazados por algoritmos que es el de Mark Zuckerberg convocado en 2018 por el Congreso de Estados Unidos y por el Parlamento británico para rendir cuentas por las distorsiones que había producido su empresa (Meta) en las campañas políticas de esos dos países. Él tuvo que admitir que había habido esa distorsión y se comprometió a corregir esas tendencias y a instalar verificadores de datos. Seis años después, cuando Trump asumió la presidencia de Estados Unidos, encontramos que Zuckerberg y otros líderes de empresas digitales estaban presentes en la ceremonia, entonces se resolvió suspender el papel de estos verificadores… Me parece que este paso de una cierta independencia de los poderes políticos respecto de las corporaciones digitales a esta otra etapa en que los dueños de estas empresas pasan a formar parte del poder político significa un cambio radical y genera una desconfianza fundada de los ciudadanos en los organizadores de datos a nivel mundial.

—¿Cómo ve la tendencia de la IA generativa?

Hay una utilidad innegable para realizar de modo más rápido operaciones de interpretación de datos. La IA crea, fácilmente, la ilusión de estar beneficiados pero, como hemos visto con las redes sociales, genera también efectos disruptivos. En el caso de las redes está comprobado que provocan mayor conflictividad social y eliminan tiempo para la conversación. En el caso de la IA, hemos visto en estos últimos días que Amazon ha prescindido de 14 mil empleados, porque ahora esos trabajos pueden ser realizados por estas nuevas formas de inteligencia y de operación física.

—También ha dicho que hemos pasado de ser ciudadanos mediáticos a ciudadanos monitorizados, ¿qué significa este cambio?

Antoinette Rouvroy hace una diferencia entre gubernamentalidad estadística y algorítmica. Hasta hace muy poco habitábamos una gubernamentalidad estadística. Esto quería decir que si una empresa o un Estado querían conocer la opinión de los ciudadanos o de los consumidores sobre un producto encargaban a consultoras encuestas específicas y obtenían esa información. Pero hemos pasado, en muy pocos años, a una gubernamentalidad algorítmica, en el sentido de que se recoge una cantidad inmensa de información sin una finalidad predeterminada como la de la encuesta. Nos extraen diariamente datos sobre todos los aspectos de la vida personal y todo eso está articulado en enormes plataformas que venden y revenden esta información para que sea utilizada de modo no previsto… Y si alguien quiere averiguar esto, estas entidades misteriosas no se responsabilizan de nada.