¿Puede la IA hacer más inteligente al Estado peruano?

El último septiembre el Ministerio del Interior informó que un nuevo centro de datos procesaría la información de 3.282 cámaras de videovigilancia y utilizará inteligencia artificial para identificar rostros y placas de vehículos vinculados con requisitorias judiciales. La idea es que si una cámara detecta a una persona buscada, el sistema puede alertar a la Policía.

Suena bien en el papel, pero el problema aparece después. ¿Qué ocurre cuando la tecnología encuentra al sospechoso? ¿Quién verifica la información? ¿Qué pasa si el sistema se equivoca? ¿Quién responde por el error?

Estas preguntas importan porque estamos acostumbrados a pensar en la tecnología como si fuera una especie de capa que podemos colocar encima de cualquier institución para hacerla funcionar mejor.

Pero una cámara más sofisticada no corrige a un policía corrupto o un algoritmo no conecta por arte de magia dos instituciones que no comparten información. Por último, una computadora capaz de procesar millones de datos tampoco garantiza que alguien vaya a tomar una buena decisión con ellos.

Resultados mixtos

El riesgo no es solo qué tan preciso es el algoritmo para reconocer un rostro, sino de dónde saca sus datos y quién decide qué hacer con ellos. Ese problema, dejar que el pasado de una institución defina su futuro, se ha visto con claridad en sistemas parecidos en Estados Unidos, que durante años intentaron anticipar dónde ocurrirían delitos para decidir dónde enviar policías.

El problema con este enfoque es que el pasado puede estar lleno de los mismos errores que queremos evitar.

En Weapons of Math Destruction, la matemática Cathy O’Neil explicó cómo un sistema predictivo puede terminar creando un círculo difícil de romper. Si la Policía vigila más un barrio, probablemente encontrará allí más delitos. Esos datos alimentan el algoritmo y después el algoritmo recomienda volver a vigilar ese mismo barrio. La máquina parece estar descubriendo una realidad objetiva cuando, en parte, está aprendiendo de las decisiones que la propia Policía tomó antes.

La evidencia tampoco permite presentar estos sistemas como una solución milagrosa. Un experimento de vigilancia predictiva realizado en Filadelfia, EE. UU. no encontró reducciones estadísticamente significativas en buena parte de los delitos evaluados y fue clasificado como ineficaz en una evaluación del Departamento de Justicia estadounidense. En Plainfield, Nueva Jersey, una investigación sobre más de 23.000 predicciones de un sistema comercial encontró que menos del 0,5 % coincidió con delitos registrados.

Las instituciones

Esto no significa que debamos regresar a una Policía sin tecnología. Al contrario, las investigaciones sobre vigilancia de zonas de alta incidencia delictiva muestran que utilizar datos para decidir dónde concentrar recursos puede funcionar. Pero hay una diferencia enorme entre utilizar información para ayudar a un policía y entregar a un algoritmo la ilusión de que puede decidir por él.

La politóloga Virginia Eubanks llegó a una conclusión parecida desde otro campo. En Automating Inequality, estudió cómo los sistemas automatizados utilizados por instituciones públicas podían terminar reproduciendo las desigualdades que ya existían. Automatizar una decisión no necesariamente la vuelve más justa. A veces simplemente hace que sus consecuencias sean más rápidas y más difíciles de cuestionar.

Ese debería ser nuestro principal cuidado ahora que el Perú empieza a incorporar estas herramientas. La pregunta no debería ser cuánto puede hacer la IA por la Policía, sino cuánto puede hacer una Policía bien organizada con inteligencia artificial.

Un Estado que comparte información, investiga bien, reduce la corrupción y tiene funcionarios capaces de responder por sus decisiones puede aprovechar cámaras, análisis de datos e inteligencia artificial para perseguir organizaciones criminales con mucha más eficacia.

Un Estado que no ha resuelto esos problemas puede utilizar tecnología avanzada para ampliar sus capacidades sin haber mejorado todavía la institución que las controla.

La tecnología no llega a una sociedad vacía. Llega con nuestros funcionarios, nuestras leyes, nuestros incentivos y nuestras costumbres. Por eso, antes de preguntarnos si la IA puede ayudarnos a combatir el crimen, quizá convenga preguntarnos ¿qué clase de Estado queremos poner detrás de ella?

Una máquina podría reconocer un rostro en una multitud pero, lo difícil sigue siendo conseguir que, después de reconocerlo, el Estado haga lo correcto.