Progrés, evolució, desenvolupament, però amb límits. Amb control. La intel·ligència artificial ha obert un nou escenari en què el desenvolupament tecnològic avança al mateix temps que creix el debat sobre com supervisar-ho. Si fa només uns anys l'atenció es centrava en el potencial d'aquests sistemes, el focus es desplaça ara cap a la governança: qui estableix les regles, com s'apliquen i quins mecanismes permeten comprovar que els models més avançats funcionen dins d'uns límits segurs.
El repte no acaba amb l'aprovació d'un marc regulatori. La implantació de la intel·ligència artificial en empreses i organitzacions obliga a convertir principis com la transparència, la supervisió humana o la gestió de riscos en procediments concrets que puguin aplicar-se de forma efectiva en l'ús diari d'aquests sistemes.
De les normes a l'aplicació quotidiana
Aquesta transició des de la regulació cap a la pràctica constitueix una de les principals conclusions de l'informe presentat aquest mes de juliol pel Lab de Governança d'IA per a la Humanitat de Nacions Unides durant la Convenció de Ginebra, un document en la seva elaboració també ha participat DigitalES aportant la visió de la indústria tecnològica espanyola.
L'informe sosté que la governança comença realment quan les organitzacions incorporen aquestes regles a la seva activitat diària. L'aplicació de criteris sobre transparència, seguretat o explicabilitat deixa de ser una declaració de principis per convertir-se en decisions operatives: avaluar riscos abans del desplegament d'un sistema, definir responsabilitats durant tot el seu cicle de vida o establir mecanismes que permetin comprendre com actua un model.
Lluny de plantejar un únic esquema vàlid per a qualsevol organització, el document subratlla que aquests principis poden adaptar-se a realitats molt diverses. Les necessitats d'una empresa especialitzada en intel·ligència artificial difereixen de les d'una companyia industrial que incorpora aquestes eines als seus processos, del mateix mode que els reptes canvien segons el context econòmic o geogràfic en què operen.
El paper de les empreses en la governança
L'informe atribueix a les empreses un paper decisiu en aquesta evolució. Cada implantació d'intel·ligència artificial, cada nou cas d'ús i cada experiència pràctica generen coneixement que permet perfeccionar els models de governança i consolidar noves bones pràctiques.
La idea és que la regulació i l'experiència avancin de forma paral·lela. Mentre les normes proporcionen un marc d'actuació, l'aplicació quotidiana permet detectar nous desafiaments i perfeccionar les eines amb les quals es supervisen aquests sistemes.
Notícia destacada
El nou mapa de l'ocupació tecnològica: les ciutats que guanyen pes més enllà de Madrid i Barcelona
3 minuts
També posa l'accent en la dimensió col·lectiva del procés. La governança no depèn únicament de qui desenvolupa un model, sinó que involucra a proveïdors tecnològics, integradors, clients i usuaris finals. En conseqüència, la responsabilitat s'ha de distribuir entre tots els actors que participen en el cicle de vida dels sistemes d'intel·ligència artificial.
En aquest context, la contractació pública i privada adquireix un pes creixent. La incorporació de requisits relacionats amb la transparència, l'avaluació de riscos o la traçabilitat en els processos de compra pot estendre aquests estàndards al conjunt de la cadena de valor i afavorir una adopció més homogènia de les bones pràctiques.
El repte de supervisar sistemes cada vegada més autònoms
L'evolució de la intel·ligència artificial afegeix un nou element al debat. Davant de models que podien avaluar-se abans del seu llançament, els sistemes més recents són capaços d'aprendre, interactuar amb el seu entorn i executar tasques amb un major grau d'autonomia.
El informe assenyala que aquest canvi obliga a substituir un model basat únicament en certificacions prèvies per un altre que incorpori mecanismes de supervisió continuada. No planteja els mateixos riscos un assistent que redacta un esborrany de correu que un sistema capaç d'enviar aquest missatge, executar una operació o prendre decisions sense intervenció humana immediata.
Per això, algunes organitzacions ja estan desenvolupant controls adaptats al tipus d'actuacions que realitza cada sistema, diferenciant entre accions reversibles i aquelles que requereixen nivells més elevats de supervisió.
La proposta d'un supervisor internacional
La necessitat de reforçar aquests mecanismes de control també apareix en la proposta plantejada per Demis Hassabis, conseller delegat de Google DeepMind i premi Nobel de Química el 2024.
En un assaig titulat A Framework for Frontier AI and the Dawning of a New Age, Hassabis defensa la creació d'un organisme internacional encarregat de sotmetre a proves independents els models d'intel·ligència artificial més avançats abans que arribin al mercat.
Notícia destacada
La intel·ligència artificial entra en defensa: el repte de protegir, decidir i mantenir el control
5 minuts
El seu plantejament contempla avaluar els anomenats models de frontera per detectar possibles riscos relacionats amb la ciberseguretat, el desenvolupament d'armes biològiques o la capacitat d'actuar de manera autònoma. Si un sistema no superés aquestes proves, l'organisme tindria capacitat per retardar o impedir el seu desplegament.
La proposta planteja una estructura inspirada en l'Autoritat Reguladora de la Indústria Financera dels Estats Units (FINRA): una entitat finançada per la indústria, però amb autonomia tècnica per realitzar avaluacions independents.
Segons Hassabis, la posada en marxa hauria de començar amb la participació voluntària dels principals laboratoris d'intel·ligència artificial, amb l'objectiu d'evolucionar posteriorment cap a un model basat en normes compartides i d'aplicació obligatòria. El responsable de Google DeepMind considera a més que aquest organisme hauria d'estar operatiu abans que finalitzi 2026.
Els perills d'una IA sense mecanismes de control
¿I si no es regula la intel·ligència artificial? Entre les principals amenaces figuren capacitats relacionades amb la ciberseguretat, el possible desenvolupament d'armes biològiques o l'execució autònoma de determinades accions sense intervenció humana immediata.
Tant l'informe presentat pel Lab de Governança d'IA per a la Humanitat de Nacions Unides com la proposta defensada per Demis Hassabis coincideixen que aquests riscos exigeixen mecanismes capaços d'identificar amenaces abans del desplegament dels sistemes i mantenir controls adaptats a la seva evolució. L'objectiu és reduir l'impacte de possibles incidents en una tecnologia el grau d'autonomia de la qual no deixa de créixer.
La cursa cap a una intel·ligència artificial quasi humana
Un dels factors que està accelerant el debat regulatori és la rapidesa amb què evolucionen els sistemes d'intel·ligència artificial. Demis Hassabis sosté que l'aparició d'una intel·ligència artificial general, capaç d'igualar o superar nombroses capacitats cognitives humanes, podria produir-se en els pròxims anys.
Encara que també incideix en que encara existeix una finestra de temps per establir mecanismes eficaços de supervisió abans que aquests models arribin a aquest nivell de desenvolupament. A la seva opinió, el potencial d'aquesta tecnologia per impulsar avenços en àmbits com la medicina o l'energia conviu amb riscos que exigeixen avaluacions independents abans del seu desplegament.
Si aquesta previsió es compleix, el debat deixarà de centrar-se únicament en la capacitat tècnica dels nous models per traslladar-se també a la seva impacte econòmic, polític i social. D'aquí que cada cop més veus defensin la necessitat de preparar mecanismes de control abans que aquesta nova generació de sistemes arribi al mercat.