La consultora tecnológica francesa Capgemini ha sido elegida por la Oficina de inteligencia artificial (IA) de la Comisión Europea para encabezar un consorcio que dará apoyo especializado en el análisis de ciberamenazas y en la evaluación de riesgos asociados a sistemas avanzados de IA, dentro del marco regulatorio de la Ley de IA de la Unión Europea (AI Act). Este organismo se integra en la Dirección General de Redes de Comunicación, Contenido y Tecnologías (CNECT).
Este contrato se enmarca en el programa europeo de seguridad de la IA y está orientado a estudiar y reducir los riesgos de ciberofensiva ligados a los modelos de IA de propósito general (GPAI, por sus siglas en inglés), según ha detallado la compañía en un comunicado difundido este martes.
Capgemini “contribuirá a reforzar la capacidad de Europa para evaluar, monitorizar y mitigar los riesgos sistémicos de ciberofensiva vinculados a modelos avanzados de IA de propósito general”.
Europa precisa marcos de evaluación armonizados
“A medida que estos modelos adquieren rápidamente capacidades autónomas y de relevancia cibernética, tales como la detección automatizada de vulnerabilidades, la generación de 'exploits' o la orquestación de ciberataques a gran escala, Europa precisa marcos de evaluación armonizados y sólidos que garanticen que estas tecnologías se desplieguen de forma segura y responsable en toda la UE”, ha señalado Capgemini, remarcando que pone a disposición su bagaje en IA, ciberseguridad y cumplimiento normativo para apoyar a la Oficina de IA en su misión “fundamental”, el desarrollo y uso de una IA confiable.
Entre las tareas previstas figuran el modelado de riesgos emergentes de carácter ciberofensivo, la creación de herramientas de evaluación, el diseño de metodologías técnicas de cumplimiento y la ejecución de evaluaciones técnicas a petición de la Oficina. Capgemini respaldará a este organismo en la detección de riesgos sistémicos y en la aplicación práctica de las obligaciones que la Ley de IA impone a los proveedores de GPAI.
El consejero delegado de la región del Sur de Europa de Capgemini y miembro del comité ejecutivo, Andrea Falleni, ha afirmado que, mientras Europa despliega el primer marco integral de seguridad de la IA a escala mundial, esta alianza con la Comisión Europea demuestra “el compromiso compartido de garantizar que las tecnologías de IA se desarrollen y desplieguen de manera responsable”.
“Al combinar rigor científico, experiencia operativa y conocimiento en la operativización de una IA de confianza, en Capgemini nos enorgullece contribuir al fortalecimiento de la resiliencia digital de Europa”, ha recalcado.
Capgemini encabeza un consorcio específico junto con Wavestone y la entidad pública francesa Laboratoire National de Métrologie et d'Essais (LNE), integrando capacidades complementarias en gestión de riesgos de ciberseguridad, seguridad operativa, evaluación de IA y verificación de la conformidad.