Progresso, evoluzione, sviluppo, ma con limiti. Con controllo. L'intelligenza artificiale ha aperto un nuovo scenario in cui lo sviluppo tecnologico avanza contemporaneamente alla crescita del dibattito su come supervisionarlo. Se solo pochi anni fa l'attenzione era focalizzata sul potenziale di questi sistemi, il focus si sposta ora verso la governance: chi stabilisce le regole, come vengono applicate e quali meccanismi permettono di verificare che i modelli più avanzati funzionino entro limiti sicuri.
La sfida non termina con l'approvazione di un quadro normativo. L'implementazione dell'intelligenza artificiale nelle aziende e nelle organizzazioni obbliga a trasformare principi come la trasparenza, la supervisione umana o la gestione dei rischi in procedure concrete che possano essere applicate in modo efficace nell'uso quotidiano di questi sistemi.
Dalle norme all'applicazione quotidiana
Questa transizione dalla regolamentazione alla pratica costituisce una delle principali conclusioni del rapporto presentato questo mese di luglio dal Lab di Governance di IA per l'Umanità delle Nazioni Unite durante la Convenzione di Ginevra, un documento nel cui elaborazione ha partecipato anche DigitalES portando la visione dell'industria tecnologica spagnola.
Il rapporto sostiene che la governance inizia realmente quando le organizzazioni incorporano queste regole nella loro attività quotidiana. L'applicazione di criteri su trasparenza, sicurezza o spiegabilità smette di essere una dichiarazione di principi per diventare decisioni operative: valutare i rischi prima del dispiegamento di un sistema, definire responsabilità durante tutto il suo ciclo di vita o stabilire meccanismi che permettano di comprendere come agisce un modello.
Lungi dall'ipotizzare uno schema unico valido per qualsiasi organizzazione, il documento sottolinea che questi principi possono adattarsi a realtà molto diverse. Le esigenze di un'azienda specializzata in intelligenza artificiale differiscono da quelle di una compagnia industriale che incorpora questi strumenti nei suoi processi, allo stesso modo in cui le sfide cambiano a seconda del contesto economico o geografico in cui operano.
Il ruolo delle aziende nella governance
Il rapporto attribuisce alle aziende un ruolo decisivo in questa evoluzione. Ogni implementazione di intelligenza artificiale, ogni nuovo caso d'uso e ogni esperienza pratica generano conoscenza che permette di perfezionare i modelli di governance e consolidare nuove buone pratiche.
L'idea è che la regolamentazione e l'esperienza avanzino in modo parallelo. Mentre le norme forniscono un quadro di azione, l'applicazione quotidiana permette di rilevare nuove sfide e perfezionare gli strumenti con cui si supervisionano questi sistemi.
Si pone anche l'accento sulla dimensione collettiva del processo. La governance non dipende unicamente da chi sviluppa un modello, ma coinvolge fornitori tecnologici, integratori, clienti e utenti finali. Di conseguenza, la responsabilità deve essere distribuita tra tutti gli attori che partecipano al ciclo di vita dei sistemi di intelligenza artificiale.
In questo contesto, la contrattazione pubblica e privata acquista un peso crescente. L'incorporazione di requisiti legati alla trasparenza, alla valutazione dei rischi o alla tracciabilità nei processi di acquisto può estendere quegli standard all'intera catena del valore e favorire un'adozione più omogenea delle buone pratiche.
La sfida di supervisionare sistemi sempre più autonomi
L'evoluzione dell'intelligenza artificiale aggiunge un nuovo elemento al dibattito. Di fronte a modelli che potevano essere valutati prima del loro lancio, i sistemi più recenti sono in grado di apprendere, interagire con il loro ambiente ed eseguire compiti con un maggiore grado di autonomia.
Il rapporto segnala che questo cambiamento costringe a sostituire un modello basato unicamente su certificazioni precedenti con un altro che incorpori meccanismi di supervisione continuata. Non pone gli stessi rischi un assistente che redige una bozza di email rispetto a un sistema capace di inviare quel messaggio, eseguire un'operazione o prendere decisioni senza intervento umano immediato.
Per questo motivo, alcune organizzazioni stanno già sviluppando controlli adattati al tipo di azioni che realizza ogni sistema, differenziando tra azioni reversibili e quelle che richiedono livelli più elevati di supervisione.
La proposta di un supervisore internazionale
La necessità di rafforzare questi meccanismi di controllo appare anche nella proposta avanzata da Demis Hassabis, amministratore delegato di Google DeepMind e premio Nobel per la Chimica nel 2024.
In un saggio intitolato A Framework for Frontier AI and the Dawning of a New Age, Hassabis difende la creazione di un organismo internazionale incaricato di sottoporre a prove indipendenti i modelli di intelligenza artificiale più avanzati prima che arrivino sul mercato.
Il suo approccio contempla di valutare i cosiddetti modelli di frontiera per rilevare possibili rischi legati alla cibersicurezza, allo sviluppo di armi biologiche o alla capacità di agire in modo autonomo. Se un sistema non superasse questi test, l'organismo avrebbe la capacità di ritardare o impedire il suo dispiegamento.
La proposta prevede una struttura ispirata all'Autorità di Regolamentazione dell'Industria Finanziaria degli Stati Uniti (FINRA): un'entità finanziata dall'industria, ma con autonomia tecnica per effettuare valutazioni indipendenti.
Secondo Hassabis, l'avvio dovrebbe cominciare con la partecipazione volontaria dei principali laboratori di intelligenza artificiale, con l'obiettivo di evolvere successivamente verso un modello basato su norme condivise e di applicazione obbligatoria. Il responsabile di Google DeepMind ritiene inoltre che questo organismo dovrebbe essere operativo prima della fine del 2026.
I pericoli di un'IA senza meccanismi di controllo
E se non si regolasse l'intelligenza artificiale? Tra le principali minacce figurano capacità legate alla cibersicurezza, al possibile sviluppo di armi biologiche o all'esecuzione autonoma di determinate azioni senza intervento umano immediato.
Sia il rapporto presentato dal Lab di Governance dell'IA per l'Umanità delle Nazioni Unite sia la proposta sostenuta da Demis Hassabis concordano sul fatto che questi rischi richiedono meccanismi in grado di identificare minacce prima del dispiegamento dei sistemi e mantenere controlli adattati alla loro evoluzione. L'obiettivo è ridurre l'impatto di possibili incidenti in una tecnologia il cui grado di autonomia continua ad aumentare.
La corsa verso un'intelligenza artificiale quasi umana
Uno dei fattori che sta accelerando il dibattito regolatorio è la rapidità con cui evolvono i sistemi di intelligenza artificiale. Demis Hassabis sostiene che l'emergere di un'intelligenza artificiale generale, capace di eguagliare o superare numerose capacità cognitive umane, potrebbe verificarsi nei prossimi anni.
Sebbene sottolinei anche che esiste ancora una finestra di tempo per stabilire meccanismi efficaci di supervisione prima che questi modelli raggiungano quel livello di sviluppo. A suo avviso, il potenziale di questa tecnologia per promuovere progressi in ambiti come la medicina o l'energia coesiste con rischi che richiedono valutazioni indipendenti prima del loro dispiegamento.
Se quella previsione si avverasse, il dibattito smetterebbe di concentrarsi unicamente sulla capacità tecnica dei nuovi modelli per spostarsi anche sul loro impatto economico, politico e sociale. Da qui la necessità sempre più sostenuta di preparare meccanismi di controllo prima che quella nuova generazione di sistemi arrivi sul mercato.