La IA sigue cometiendo errores: ¿contratar un seguro será la solución?

La inteligencia artificial (IA) gana autonomía y ahora puede realizar por sí sola numerosas tareas, pero sigue siendo propensa a errores, un riesgo que varias firmas aseguradoras ya aceptan cubrir para las empresas.

MIRA: CES 2026: Samsung apuesta por la IA como eje de su ecosistema

“La finalidad de estas herramientas avanzadas de IA es prescindir de la asistencia y la supervisión humanas en la toma de decisiones, lo que cuestiona parte de la lógica fundamental de la cobertura de seguros existente”, explicó Phil Dawson, responsable de IA en la aseguradora especializada Armilla.

Dado que los seguros usualmente están pensados para cubrir fallos humanos, no decisiones de una máquina, muchas empresas que crean o usan IA con mayor grado de autonomía “nos consultan para agregar seguros” complementarios, explica.

Los nuevos asistentes de IA, llamados agentes, ya no se limitan a responder una pregunta, sino que son capaces de realizar tareas similares a las de una persona que utiliza una computadora, de forma autónoma y acelerada.

Pero aún no han eliminado la posibilidad de errores como las “alucinaciones”, cuando presentan con total seguridad un resultado inventado.

En gran medida, los riesgos de responsabilidad civil vinculados a la IA se han cubierto de forma implícita en las pólizas de seguros, en lo que se denomina “cobertura silenciosa”, estiman la analista Sonal Madhok y la profesora de derecho Anat Lior en un documento publicado en 2025 por la firma de corretaje Willis Towers Watson.

Esta situación, apuntan, es similar a los primeros años de la ciberdelincuencia a gran escala.

Pero en los últimos meses, el mercado asegurador ha pasado de una postura de “esperar y ver” a una mucho más agresiva, y las “pólizas tipo incluyen ahora cláusulas denominadas ‘exclusión absoluta de la IA’”, señala Jonathan Mitchell, responsable del sector financiero en la correduría Founder Shield.

Según Financial Times, aseguradoras importantes como la británica Chubb han pedido a los reguladores estadounidenses poder excluir la responsabilidad relacionada con la IA de su cobertura.

Contactadas por la AFP, ninguna ha respondido.

La inteligencia artificial generativa es más difícil de abordar por su constante mutación.

“Para tener en cuenta la responsabilidad civil de la IA, hay que entrar muy a fondo en los detalles del contrato”, reconoció Mitchell.

Un mercado de 4.800 millones de dólares

Phil Dawson mencionó el caso de una inmobiliaria de locales comerciales que quería cubrir a su agente de IA como si fuera un empleado. Finalmente contrató una póliza específica para inteligencia artificial.

Founder Shield ofrece un seguro de errores y omisiones (E&O), clásico para un proveedor de servicios profesionales, pero que integra específicamente los escenarios de “fallo de la IA o alucinación” que “generan una pérdida financiera directa para el cliente”.

El alcance del contrato puede ampliarse más allá de las redes informáticas, a los daños causados por la IA en el mundo real, precisó Mitchell, como cuando un agente virtual encarga por error demasiada mercadería para una empresa.

Antes de comprometerse a brindar un seguro, Armilla somete los modelos a pruebas para evaluar sus vulnerabilidades.

Y también analiza la gestión global de riesgos dentro de la empresa cliente y su adhesión a normas estadounidenses o internacionales en materia de IA.

Las aseguradoras en el mercado excluyen ciertos riesgos.

Armilla no cubre nada relacionado con diagnósticos médicos ni aplicaciones enfocadas en salud mental.

Por su parte, Munich Re no indemniza el fallo de un modelo si se debe a condiciones de mercado excepcionales, explica Michael von Gablenz, responsable de los seguros de IA, y pone como ejemplo la tasación de obras de arte o de activos financieros.

Los clientes actuales de Munich Re son sobre todo empresas tecnológicas que operan en sectores como la agricultura, la industria y la energía. Pueden suscribir tanto las compañías que diseñan los modelos como las que los utilizan.

Para Von Gablenz, el potencial de este mercado “es tan importante como el de la ciberseguridad, e incluso superior”.

La mejora continua de los modelos reduce los desvíos, pero “el riesgo de errores y de alucinaciones nunca podrá descartarse por completo”, dijo. “Siguen siendo modelos estadísticos” que presentan siempre “una parte de incertidumbre”.

La consultora Deloitte estima, en un estudio publicado en agosto, que el volumen de primas podría alcanzar los 4.800 millones de dólares a escala mundial para 2032.