El Consell d'Estabilitat Financera (FSB), organisme que actua com a supervisor financer a escala internacional, sosté que la intel·ligència artificial té potencial per transformar de forma profunda els serveis financers i els models de negoci de les entitats, però també per amplificar o introduir nous riscos en el sistema que han d'identificar-se i gestionar-se de manera adequada.
En un informe sobre bones pràctiques per a l'adopció responsable de la IA, sotmès a consulta pública fins al 22 de juliol, el FSB subratlla que aquesta tecnologia genera al mateix temps oportunitats i amenaces. Per això, insta les entitats financeres a comprendre i seguir de prop l'evolució de la IA, així com a respondre amb una estratègia clara i amb mesures de protecció sòlides davant uns riscos en constant canvi.
Juntament amb els riscos derivats d'un ús inadequat o deficient de la IA, les possibles ciberamenaces i l'elevada dependència de tercers per la concentració de proveïdors tecnològics, el document del FSB posa el focus en els riscos lligats a la IA agent, és a dir, aquella capaç d'operar de forma autònoma, advertint que aquest tipus de sistemes pot arribar a generar o intensificar determinats riscos.
Entre les amenaces associades a la IA agent, l'informe apunta que els agents d'IA poden executar accions autònomes basades en objectius predefinits i també fixar o modificar dinàmicament aquests objectius en funció del que vagin aprenent en interactuar amb el seu entorn extern, la qual cosa podria fins i tot generar el risc que "realitzin accions il·legals, poc ètiques o no autoritzades sense l'aprovació o supervisió humana".
El FSB adverteix que aquest tipus de comportaments poden fer-se visibles únicament quan l'agent es desplega en un entorn real i que, un cop manifestats, corregir-los o mitigar-los pot resultar molt complex o fins i tot impossible per a les persones. En determinades situacions, una supervisió i detecció eficaces podrien requerir l'ús d'un altre agent d'IA.
"L'adopció responsable de la IA permet a les institucions financeres aprofitar les oportunitats i els beneficis, minimitzant al mateix temps els riscos associats", recull l'informe, en el qual el FSB planteja un paquet de dotze recomanacions de bones pràctiques per guiar la implantació i el desenvolupament responsable d'aquesta tecnologia en el sector financer.
Entre aquestes orientacions, l'organisme ressalta la necessitat d'una governança integral de la IA en tota l'organització, que serveixi per decidir si s'adopta o no una tecnologia, de quina manera i amb quin abast. En aquest marc, recalca el paper del consell d'administració i de l'alta direcció a l'hora de fixar l'enfocament general i exercir la supervisió, de manera que la incorporació de la IA resulti coherent amb el model de negoci, l'apetit de risc i l'estratègia de l'entitat.
En un segon bloc, el supervisor insisteix en la importància d'avaluar de manera rigorosa i sistemàtica els riscos de cada cas d'ús d'IA des de la seva concepció, de seleccionar models o sistemes d'IA adequats als objectius i a les necessitats operatives i tècniques, i de comptar amb una governança de dades robusta.
Finalment, les recomanacions del FSB destaquen la necessitat d'abordar específicament els riscos cibernètics vinculats a la IA, incorporant escenaris de risc cibernètic, promovent l'intercanvi d'informació rellevant amb les parts interessades clau i, quan sigui procedent, utilitzant eines d'IA per gestionar aquests ciberamenaçes. Així mateix, l'informe crida a controlar els riscos derivats de l'ús d'IA per part de tercers, amb especial atenció al rendiment, la transparència, la qualitat de les dades, els riscos de la cadena de subministrament i de concentració, i la continuïtat del negoci.