Artículo de Julien Ricciarelli-Bonnal
6 octubre 2026
Lo esencial
Las aseguradoras empiezan a prepararse para posibles siniestros importantes relacionados con agentes de IA capaces de actuar de forma autónoma. El problema ya no se limita a la calidad de las respuestas que producen los modelos: un agente puede acceder a sistemas, utilizar datos, ejecutar operaciones o provocar pérdidas reales. Aparece entonces una pregunta mucho más concreta: ¿quién paga cuando una acción autónoma sale mal? Ciberseguros, responsabilidad profesional, propiedad intelectual y responsabilidad de los directivos podrían entrar en juego según el incidente. La IA agéntica está convirtiendo progresivamente un problema tecnológico en una cuestión económica, jurídica y aseguradora.
Durante años, el riesgo asociado a la inteligencia artificial se presentó principalmente como un problema de calidad. Un modelo podía inventar una referencia, producir un análisis incorrecto, generar un contenido inadecuado o responder con demasiada seguridad a una pregunta que no sabía resolver. La empresa debía revisar el resultado, corregirlo y evitar que el error acabara convirtiéndose en una decisión.
Esta representación empieza a quedarse corta. Los agentes de IA no se limitan necesariamente a producir algo que una persona utilizará después. Pueden navegar por sistemas, acceder a recursos, utilizar herramientas, transmitir información y ejecutar varias etapas consecutivas para alcanzar un objetivo. En ese contexto, el error ya no es solamente algo que aparece en una pantalla. Puede convertirse en algo que ocurre realmente dentro o fuera de la empresa.
Esa diferencia empieza ahora a interesar a un sector cuya actividad consiste precisamente en transformar riesgos inciertos en costes financieros: los seguros. Según el Financial Times, las compañías aseguradoras ya estudian cómo los incidentes provocados por agentes de IA fuera de control podrían generar reclamaciones de varios millones de dólares, al mismo tiempo que plantean una dificultad adicional: determinar qué cobertura debe aplicarse y hasta dónde puede remontarse la responsabilidad.
Cuando las aseguradoras empiezan a hacerse esta pregunta, el debate sobre la autonomía de la IA cambia de naturaleza. Ya no se trata únicamente de saber si un sistema puede comportarse de una forma inesperada, sino de determinar quién asumirá económicamente las consecuencias cuando lo haga.
Una mala respuesta y una mala acción no generan el mismo riesgo
Las empresas ya conocen el coste de los errores humanos y tecnológicos. Un empleado puede enviar el documento equivocado, una aplicación puede dejar de funcionar, una brecha de seguridad puede exponer datos confidenciales y una mala decisión comercial puede provocar pérdidas. El mercado asegurador ha construido progresivamente distintas categorías de cobertura para responder a una parte de estos riesgos.
Los agentes de IA complican esta arquitectura porque una misma secuencia puede atravesar varias categorías al mismo tiempo. Un incidente puede comenzar con una interpretación incorrecta, continuar mediante el uso de una herramienta externa, desembocar en una acción no autorizada y terminar afectando a un cliente, un proveedor o un tercero. Dependiendo del caso, podrían entrar en juego la ciberseguridad, los errores tecnológicos, la privacidad, la propiedad intelectual o la responsabilidad profesional.
Aon, citada por el Financial Times, ha analizado más de 300 litigios relacionados con la inteligencia artificial y observa precisamente esta dispersión entre distintas categorías de seguros. Todavía no existe una jurisprudencia suficientemente consolidada como para saber automáticamente cómo se tratarán los futuros siniestros provocados por agentes autónomos.
Esta incertidumbre no afecta únicamente a las aseguradoras. Una empresa puede creer que determinado riesgo está cubierto y descubrir después de un incidente que la compañía de seguros considera que corresponde a otra póliza, a una exclusión o incluso a un comportamiento que nunca se había contemplado cuando se firmó el contrato.
La llegada de los agentes obliga por tanto a analizar de forma mucho más concreta qué significa realmente «automatizar». Automatizar una síntesis interna no produce la misma exposición que permitir a un agente enviar mensajes, utilizar credenciales, modificar una base de datos o interactuar directamente con sistemas pertenecientes a terceros.
Las aseguradoras querrán saber qué pueden hacer realmente los agentes
Cuando una aseguradora evalúa un riesgo, no se limita a comprobar si existe. También intenta comprender cómo se controla. Una empresa con procedimientos sólidos de ciberseguridad, controles de acceso y sistemas de supervisión no presenta el mismo perfil que una organización en la que cualquier persona puede utilizar herramientas sensibles sin reglas claramente definidas.
Es probable que esta misma lógica se aplique progresivamente a los agentes de IA. Decir simplemente que una empresa «utiliza inteligencia artificial» será demasiado impreciso para tener mucho valor. Habrá que explicar qué sistemas pueden actuar realmente, qué permisos tienen y qué controles rodean las acciones que están autorizados a ejecutar.
Un agente que puede consultar un CRM no genera el mismo riesgo que uno autorizado a modificarlo. Un sistema que prepara un correo electrónico no equivale a otro que puede enviarlo sin validación. Un agente capaz de analizar una factura tampoco plantea la misma exposición que uno autorizado a iniciar un pago.
Esta necesidad de interpretar lo que significa realmente una acción no es exclusiva de la inteligencia artificial. Como explicábamos recientemente al analizar por qué algunos clientes potenciales piden un presupuesto y nunca compran, una misma señal aparente puede corresponder a situaciones muy distintas. En materia de IA ocurre algo parecido: saber que una empresa utiliza agentes aporta poca información si no sabemos hasta dónde pueden llegar esos agentes.
En el ámbito asegurador, esa diferencia será probablemente decisiva. Resulta difícil atribuir responsabilidades después de un incidente si nadie puede reconstruir qué instrucción recibió el sistema, qué herramientas utilizó, en qué momento se desvió y qué mecanismo de control debería haber intervenido.
La responsabilidad podría llegar hasta los directivos
Uno de los aspectos más sensibles planteados por el Financial Times afecta a los seguros de responsabilidad de administradores y directivos, conocidos habitualmente como D&O. La cuestión ya no consiste únicamente en saber si una empresa puede responder por los daños causados por un sistema que utiliza, sino si sus propios dirigentes podrían enfrentarse a reclamaciones cuando el despliegue o la supervisión de la IA se consideren insuficientes.
El marco jurídico todavía está desarrollándose. No existe una regla sencilla según la cual un director general pase a ser personalmente responsable cada vez que un agente de IA provoca un daño. La cuestión que empieza a plantearse es más clásica: los accionistas podrían considerar que los dirigentes no supervisaron adecuadamente un riesgo conocido y que esa falta de control causó pérdidas a la empresa.
La diferencia es importante. El directivo no sería necesariamente acusado de haber ejecutado personalmente la acción perjudicial. La discusión se centraría en la calidad de la gobernanza aplicada a un sistema al que la empresa decidió otorgar capacidad de actuación.
Este razonamiento ya existe en otros ámbitos. Los consejos de administración y los equipos directivos deben demostrar que han identificado determinados riesgos financieros, regulatorios o de ciberseguridad y que han implantado controles proporcionales a sus posibles consecuencias. A medida que los agentes de IA asuman tareas más operativas, su supervisión podría integrarse progresivamente en esa misma lógica.
Por eso el asunto difícilmente permanecerá limitado a los departamentos informáticos. En cuanto una tecnología puede generar una pérdida material, exponer información o crear obligaciones frente a terceros, decidir su grado de autonomía deja de ser únicamente una decisión técnica.
Los primeros grandes siniestros ayudarán a establecer las reglas
El sector asegurador funciona en gran medida gracias a la experiencia acumulada. Las compañías conocen relativamente bien la frecuencia y el coste probable de incendios, accidentes de tráfico o numerosos tipos de ciberataques porque disponen de años de datos con los que modelizar esos riesgos.
Los agentes autónomos no ofrecen todavía ese historial. Su despliegue a gran escala es reciente, las arquitecturas evolucionan rápidamente y los incidentes más significativos siguen siendo poco numerosos. Las aseguradoras intentan por tanto valorar un riesgo cuya propia forma continúa cambiando.
Los primeros grandes siniestros tendrán probablemente un papel importante. Ayudarán a determinar qué pólizas se activan, cómo se distribuyen las responsabilidades y qué medidas de precaución se consideran razonables. Después llegarán las adaptaciones contractuales, con nuevas exclusiones, obligaciones de declaración o requisitos técnicos para determinadas coberturas.
Este proceso puede parecer lejano para una empresa que acaba de empezar a experimentar con unos pocos agentes internos. Sin embargo, los riesgos tecnológicos suelen adquirir una dimensión muy concreta cuando las aseguradoras comienzan a imponer condiciones. Una buena práctica deja entonces de ser únicamente una recomendación: su ausencia puede afectar al precio de la póliza, a las garantías disponibles o incluso a la posibilidad de asegurar determinadas actividades.
Por eso las empresas tienen interés en no esperar a los primeros grandes litigios para estructurar los usos de la IA, las responsabilidades y los niveles de autonomía dentro de la organización. No se trata de añadir controles innecesarios a todos los procesos, sino de identificar qué acciones pueden automatizarse libremente, cuáles necesitan validación humana y cuáles pueden producir consecuencias suficientemente importantes como para exigir mecanismos específicos.
El verdadero cambio empieza cuando el error aparece en las cuentas
La inteligencia artificial generativa acostumbró primero a las empresas a un riesgo relativamente fácil de comprender: el contenido puede ser incorrecto. Esa realidad obligaba a revisar, verificar y mantener una responsabilidad humana sobre las producciones importantes.
Los agentes introducen una segunda categoría mucho más material. El sistema puede ahora hacer algo que la empresa tendrá posteriormente que explicar, corregir, revertir o indemnizar.
Esta evolución cambia inevitablemente la manera de evaluar el rendimiento. Un agente que completa una tarea diez veces más rápido resulta atractivo cuando el cálculo se limita a la productividad. La ecuación es diferente cuando también hay que incorporar la probabilidad de una acción incorrecta, el coste potencial de ese error y los mecanismos necesarios para detectarlo.
La solución tampoco consiste en eliminar la autonomía. Si cada acción debe ser aprobada manualmente, una parte considerable del interés de los agentes desaparece. La cuestión es adaptar el nivel de supervisión al impacto potencial. Cuanto más fácil sea revertir una acción y menores sean sus consecuencias, más autonomía puede resultar razonable. Cuanto mayores sean las implicaciones financieras, jurídicas o difíciles de reparar, más importante se vuelve el control.
Las aseguradoras empiezan así a formular, en términos financieros, una pregunta que todas las empresas que desplieguen agentes tendrán que responder tarde o temprano: ¿hasta qué punto estamos dispuestos a dejar actuar a un sistema si sabemos que seguiremos siendo responsables de lo que ocurra después?
No habrá probablemente una respuesta universal. Dependerá del sector, de los datos utilizados, de las cantidades económicas implicadas y de las posibles consecuencias. Pero una cosa empieza a quedar mucho más clara: la autonomía no puede evaluarse únicamente en función de lo que permite ganar.
El día en que un agente de IA provoque un siniestro importante, alguien tendrá que pagarlo. Mucho antes de que llegue esa factura, las aseguradoras querrán saber quién decidió entregarle las llaves.
Si su empresa empieza a confiar acciones reales a agentes de IA, podemos ayudarle a definir sus usos, sus permisos y las responsabilidades que deben permanecer bajo control humano.
Escrito por Julien Ricciarelli-Bonnal
6 octubre 2026
