El Consejo de Estabilidad Financiera (FSB), organismo que actúa como supervisor financiero a escala internacional, sostiene que la inteligencia artificial tiene potencial para transformar de forma profunda los servicios financieros y los modelos de negocio de las entidades, pero también para amplificar o introducir nuevos riesgos en el sistema que deben identificarse y gestionarse de manera adecuada.
En un informe sobre buenas prácticas para la adopción responsable de la IA, sometido a consulta pública hasta el 22 de julio, el FSB subraya que esta tecnología genera al mismo tiempo oportunidades y amenazas. Por ello, insta a las entidades financieras a comprender y seguir de cerca la evolución de la IA, así como a responder con una estrategia clara y con medidas de protección sólidas ante unos riesgos en constante cambio.
Junto a los riesgos derivados de un uso inadecuado o deficiente de la IA, las posibles ciberamenazas y la elevada dependencia de terceros por la concentración de proveedores tecnológicos, el documento del FSB pone el foco en los riesgos ligados a la IA agéntica, es decir, aquella capaz de operar de forma autónoma, advirtiendo de que este tipo de sistemas puede llegar a generar o intensificar determinados riesgos.
Entre las amenazas asociadas a la IA agéntica, el informe apunta a que los agentes de IA pueden ejecutar acciones autónomas basadas en objetivos predefinidos y también fijar o modificar dinámicamente esos objetivos en función de lo que vayan aprendiendo al interactuar con su entorno externo, lo que podría incluso a generar el riesgo de que "realicen acciones ilegales, poco éticas o no autorizadas sin la aprobación o supervisión humana".
El FSB advierte de que este tipo de comportamientos pueden hacerse visibles únicamente cuando el agente se despliega en un entorno real y que, una vez manifestados, corregirlos o mitigarlos puede resultar muy complejo o incluso imposible para las personas. En determinadas situaciones, una supervisión y detección eficaces podrían requerir el uso de otro agente de IA.
"La adopción responsable de la IA permite a las instituciones financieras aprovechar las oportunidades y los beneficios, minimizando al mismo tiempo los riesgos asociados", recoge el informe, en el que el FSB plantea un paquete de doce recomendaciones de buenas prácticas para guiar la implantación y el desarrollo responsable de esta tecnología en el sector financiero.
Entre estas orientaciones, el organismo resalta la necesidad de una gobernanza integral de la IA en toda la organización, que sirva para decidir si se adopta o no una tecnología, de qué manera y con qué alcance. En este marco, recalca el papel del consejo de administración y de la alta dirección a la hora de fijar el enfoque general y ejercer la supervisión, de forma que la incorporación de la IA resulte coherente con el modelo de negocio, el apetito de riesgo y la estrategia de la entidad.
En un segundo bloque, el supervisor insiste en la importancia de evaluar de forma rigurosa y sistemática los riesgos de cada caso de uso de IA desde su concepción, de seleccionar modelos o sistemas de IA adecuados a los objetivos y a las necesidades operativas y técnicas, y de contar con una gobernanza de datos robusta.
Por último, las recomendaciones del FSB destacan la necesidad de abordar específicamente los riesgos cibernéticos vinculados a la IA, incorporando escenarios de riesgo cibernético, promoviendo el intercambio de información relevante con las partes interesadas clave y, cuando proceda, utilizando herramientas de IA para gestionar estas ciberamenazas. Asimismo, el informe llama a controlar los riesgos derivados del uso de IA por parte de terceros, con especial atención al rendimiento, la transparencia, la calidad de los datos, los riesgos de la cadena de suministro y de concentración, y la continuidad del negocio.