El algoritmo y sus descontentos

En una nueva demanda legal en Estados Unidos contra Meta, 41 estados y el Distrito de Columbia sostienen que dos redes sociales de la empresa (Instagram y Facebook) no solo son adictivas, sino también perjudiciales para el bienestar de los menores. Se acusa a Meta de poner en práctica un “esquema para explotar a jóvenes con fines de lucro”, que incluye mostrarles contenido nocivo que los mantiene pegados a las pantallas.

Según una encuesta reciente, los estadounidenses de 17 años pasan 5,8 horas al día en las redes sociales. ¿Cómo se llegó a esto? La respuesta, en una palabra, es “vinculación” (‘engagement’).

El uso de algoritmos pensados para maximizar la vinculación de los usuarios es el modo que tienen las grandes tecnológicas de maximizar el valor para sus accionistas, con el resultado de que las ganancias a corto plazo suelen imponerse a los objetivos empresariales a largo plazo (por no hablar de la salud social). Como explica el científico de datos Greg Linden, los algoritmos basados en “malas métricas” fomentan “malos incentivos” y dan vía libre a “malos actores”.

Facebook comenzó como un servicio básico para conectar a amigos y conocidos en Internet, pero con el tiempo su diseño evolucionó de la satisfacción de las necesidades y preferencias de sus usuarios a mantenerlos dentro de la plataforma. En pos de este objetivo, la empresa desestimó una y otra vez las preferencias explícitas de sus consumidores en relación con la clase de contenido que desean ver, la privacidad y el uso compartido de sus datos.

La primacía de las ganancias inmediatas implica inducir a los usuarios a hacer “clic”, incluso si el resultado general de esta estrategia es dar prioridad a materiales sensacionalistas de calidad inferior, en vez de otorgarle una debida recompensa a un universo más amplio de creadores de contenido, usuarios y anunciantes.

La demanda contra Meta tiene que ver, en definitiva, con sus prácticas algorítmicas, cuidadosamente diseñadas para maximizar la “vinculación” de sus usuarios: mantenerlos en la plataforma por más tiempo y provocar más comentarios, “me gusta” y republicaciones. Suele ocurrir que un buen modo de lograrlo es exhibiendo contenido nocivo y convirtiendo el tiempo pasado en la plataforma en una actividad compulsiva, mediante funciones como el “desplazamiento infinito” y el envío incesante de notificaciones y alertas (técnicas que en muchos casos también se usan con gran efectividad en la industria de los juegos de azar).

Ahora que los avances en inteligencia artificial (IA) comienzan a potenciar las recomendaciones algorítmicas y a hacerlas incluso más adictivas, se necesitan con urgencia nuevas estructuras de gobernanza orientadas al “bien común” y alianzas simbióticas entre empresas, gobiernos y sociedad civil. Felizmente, está dentro del alcance de las autoridades reformar estos mercados para ponerlos al servicio del bien común.

En primer lugar, en vez de apelar exclusivamente a la legislación antimonopólica y de defensa de la competencia, las autoridades deben adoptar herramientas tecnológicas que impidan a las plataformas encerrar a los usuarios y a los desarrolladores. Un modo de evitar la creación de recintos cerrados anticompetitivos es exigir la portabilidad e interoperabilidad de datos entre servicios digitales, para que los usuarios puedan pasar fácilmente de una plataforma a otra si aquella en la que están no satisface sus necesidades y preferencias.

En segundo lugar, es esencial una reforma de la gobernanza corporativa, ya que lo que llevó a las plataformas a la explotación algorítmica de los usuarios fue el principio de maximización del valor para los accionistas. En vista de los conocidos costos sociales de este modelo de negocio, la reforma de la gobernanza exige una reforma de los algoritmos.

En tercer lugar, los usuarios deben tener más influencia sobre el modo en el que los algoritmos priorizan la información que se les muestra.

En cuarto lugar, la metodología de “prueba A/B”, estándar en la industria, debe dar paso a evaluaciones de impacto a largo plazo más integrales. En el 2020, por ejemplo, un equipo de Meta determinó que en un horizonte temporal de un año, reducir la cantidad de notificaciones intrusivas mejoraría la utilización de las aplicaciones y la satisfacción de los usuarios.

En quinto lugar, hay que poner en acción una IA pública para evaluar la calidad de los resultados de los algoritmos, en particular en el área de la publicidad.

Para preservar la salud de los usuarios de las grandes tecnológicas y de la totalidad del ecosistema hay que evitar que los algoritmos estén supeditados al afán de ganancias inmediatas de los accionistas. Si los directivos de las empresas realmente creen en el principio de valor para las partes interesadas, deben aceptar que es necesario un cambio radical en el modo de crear valor, sobre la base de los cinco principios detallados antes.

El juicio inminente contra Meta no puede deshacer los errores del pasado. Pero mientras nos preparamos para la próxima generación de productos de IA, tenemos que instituir mecanismos para una correcta vigilancia de los algoritmos. El uso de algoritmos basados en IA influirá no solo en lo que consumimos, sino también en cómo producimos y creamos; no solo lo que elegimos, sino también lo que pensamos. Aquí no hay margen para el error.

Traducido por Esteban Flamini

–Glosado y editado–

©Project Syndicate, 2024