En la actualidad, el debate público sobre inteligencia artificial sigue centrado en la innovación, la regulación y la ética. Pero la pregunta sobre quién responde cuando una IA se equivoca comienza a preocupar, cada vez más, a empresas, reguladores e inversores.
La cuestión no es menor. Asumir el riesgo de una IA que recomienda una decisión o que genera un contenido, es una cosa. Pero cuando se trata de una IA que ejecuta una transferencia bancaria, modifica un sistema industrial, contrata un servicio, gestiona un proceso de selección o interactúa directamente con infraestructuras críticas, el riesgo se convierte en enemigo de la confianza.
En el sector asegurador, hasta antes de la fallida Directiva sobre responsabilidad civil por daños causados por inteligencia artificial, nadie tenía muy claro de qué modo podrían asegurarse los daños causados por la inteligencia artificial. De hecho, aquellos podían encajar, con mayor o menor dificultad, en seguros ya existentes: responsabilidad civil profesional, ciberseguros, seguros de producto o pólizas de directivos.
Más recientemente, la llegada de la IA agéntica —sistemas capaces de tomar decisiones, ejecutar acciones y modificar entornos digitales o físicos con un grado creciente de autonomía— ha vuelto a alterar la lógica de la diligencia y la responsabilidad legal en este ámbito, por cuanto la intervención humana queda relegada se reduce o, incluso, se elimina.
Del riesgo tecnológico al riesgo económico
Toda revolución tecnológica ha necesitado una infraestructura financiera que absorbiera la incertidumbre asociada a la innovación. El ferrocarril necesitó seguros. La aviación necesitó seguros. Internet necesitó seguros. La inteligencia artificial no será una excepción.
Lo interesante es que no hay dudas de que la IA genera riesgos asegurables. El verdadero desafío consiste en identificar qué riesgos son atribuibles a la tecnología, cuáles a quienes la desarrollan, cuáles a quienes la despliegan y cuáles a quienes la utilizan.
En este sentido, ya hemos sido testigos de sistemas de IA que discriminan a candidatos en procesos de selección, chatbots que proporcionan información incorrecta que provoca daños económicos, o modelos manipulados mediante técnicas de prompt injection que ejecuta acciones no autorizadas.
¿Estamos ante un fallo informático? ¿Ante un defecto del producto? ¿Ante una negligencia profesional? ¿Ante un incidente de ciberseguridad? ¿O ante una nueva categoría de riesgo? ¿O todas a la vez?
El silencio de la IA
Durante años, muchas organizaciones han convivido con lo que el sector asegurador denomina silent risk: riesgos que existen pero que no están expresamente contemplados ni excluidos en las pólizas.
Ahora, con los riesgos que acompañan al desarrollo de la inteligencia artificial, las compañías aseguradoras empiezan a comprender que la incertidumbre jurídica es tan peligrosa como el propio riesgo tecnológico. Por eso están, poco a poco, comenzando a surgir productos específicos que cubren errores algorítmicos, alucinaciones, sesgos, incumplimientos regulatorios o fallos de rendimiento de sistemas de IA. Pólizas que, progresivamente, se irán haciendo accesibles a pequeñas y medianas empresas.
El AI Act como norma para aseguradoras
Aunque no suele mencionarse, el Reglamento Europeo de Inteligencia Artificial (RIA) tiene una enorme relevancia para el mercado asegurador.
Las obligaciones de gobernanza, trazabilidad, supervisión humana, documentación y gestión de riesgos que impone el RIA no solo protegen derechos fundamentales. También facilitan la asegurabilidad de los sistemas.
Dado que un riesgo es asegurable cuando puede medirse, evaluarse y auditarse, cuanta más transparencia exista sobre el funcionamiento de un sistema de IA, más fácil será calcular probabilidades, fijar primas y gestionar siniestros.
Desde esta perspectiva, el citado Reglamento coadyuva a la reducción de incertidumbre económica y a la creación de las condiciones necesarias para que surja un mercado de seguros capaz de absorber una parte importante del riesgo tecnológico. El gran negocio del siglo XXI.
El verdadero reto: los riesgos sistémicos
Sin embargo, existe un problema mucho más complejo. Los seguros funcionan bien cuando la cobertura se centra en riesgos independientes. Sin embargo, encuentra mayores dificultades cuando es una pluralidad de asegurados la que puede sufrir pérdidas simultáneamente. Y la IA presenta -precisamente- ese problema.
Efectivamente, cientos de miles de empresas dependen de los mismos modelos, de los mismos proveedores de nube y de las mismas infraestructuras digitales. Y un fallo masivo en uno de esos componentes podría generar reclamaciones simultáneas en múltiples sectores económicos, cuando no demandas colectivas tras la aparición de la Directiva de acciones colectivas y la de acciones de representación.
Llegados a este punto, algunos podrán concluir que quizá la verdadera revolución de la inteligencia artificial no sea tecnológica ni jurídica. Quizá sea actuarial.
sobre la firma:
Francisco Pérez Bes es adjunto de la Agencia Española de Protección de Datos. Además, fue socio en el área de Derecho Digital de Ecix Group y es ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).