Algunos de los principales líderes de la carrera por desarrollar una inteligencia artificial (IA) cada vez más poderosa están pidiendo ponerle límites. Dario Amodei, CEO de Anthropic, propuso ralentizar el desarrollo de los modelos más avanzados y permitir que evaluadores externos verifiquen las prácticas de seguridad de las compañías. Respaldaron la propuesta Sam Altman, de OpenAI; Elon Musk, creador del chatbot Grok; y Demis Hassabis, CEO de Google DeepMind.
La inquietud surge tras recientes experimentos con agentes de IA que han mostrado comportamientos no previstos por sus desarrolladores, como engañar en las pruebas o coordinar acciones entre ellos. Aunque estos ensayos se realizan en entornos controlados y existe controversia sobre su capacidad para predecir riesgos reales, han intensificado la duda sobre qué tan lejos podremos llegar a controlar sistemas cada vez más autónomos.
Como señala Altman, hay dos caminos en los que la IA puede salir mal: que quede sin control o que esté en manos de un solo actor, lo que podría llevar a una concentración excesiva de poder. Así, a la discusión sobre qué será capaz de hacer la IA se suman preguntas como quién la controlará, con qué reglas y quién responderá cuando falle.
Un reciente especial de la revista “Harvard Business Review” examina esta problemática desde la perspectiva empresarial. Los agentes de IA actuales no solo generan contenido, sino que también pueden modificar registros, realizar transacciones o actuar en los sistemas de una organización. Por eso, distintos autores plantean que se requieren ámbitos de autoridad definidos, fuentes de información confiables, trazabilidad y reglas de escalamiento y supervisión. Una de las propuestas es avanzar mediante una “escalera de autonomía”: empezar con sistemas que recomienden acciones para que una persona las revise y concederles mayor autonomía solo cuando los controles hayan demostrado funcionar. La paradoja es que cuanto más capaz se vuelve la tecnología, más importante será el criterio de las personas que la supervisan para determinar la calidad de una decisión asistida por IA.
Esta discusión coincide con los últimos resultados del Programa para la Evaluación Internacional de Estudiantes (PISA). Ahí, los países de la OCDE registraron los promedios más bajos de su historia en lectura y matemáticas. Desde el 2015, el puntaje promedio en lectura cayó 28 puntos, lo que equivale a aproximadamente un año y medio de aprendizaje. Además, la proporción de estudiantes que leen rápidamente y responden con errores casi se ha duplicado desde el 2018.
Si bien este deterioro comenzó antes de la IA, forma parte de una transformación más amplia en nuestra relación con la tecnología. Durante años, distintos investigadores han estudiado cómo un entorno lleno de pantallas y cambios rápidos de atención puede influir en nuestra capacidad de concentrarnos y en la manera en que leemos. La lectura profunda requiere mantener el enfoque, vincular ideas, hacer inferencias y reflexionar sobre lo leído. PISA no demuestra que las pantallas sean la causa del deterioro, pero sus resultados muestran señales inquietantes: más tiempo frente a ellas y menos lectura por placer coinciden con peores resultados. En el Perú, PISA revela que apenas el 42% de los estudiantes alcanza al menos el nivel básico de competencia en lectura, mientras que la IA ya forma parte de su aprendizaje. ¿Qué ocurre cuando resulta cada vez más fácil delegar tareas intelectuales que muchos estudiantes todavía no dominan?
La respuesta no es mantener la IA fuera de las aulas, porque ya es parte de su educación y lo será en su vida. Pero aprender a usarla implica saber evaluar sus respuestas, contrastar fuentes, identificar inconsistencias y decidir cuándo confiar en ellas. De hecho, entre los usuarios frecuentes de IA, PISA encuentra que quienes han aprendido en la escuela a evaluar la calidad de la información que esta genera obtienen mejores resultados.
Las empresas tecnológicas empiezan a preguntarse cómo supervisar sistemas cada vez más avanzados. La educación necesita reflexionar sobre qué habilidades deben adquirir quienes operarán y supervisarán estas tecnologías, porque cuanto más podamos confiar en la IA, más crucial será entender qué tareas no debemos delegar.
Respuestas
