Quando l’IA non chiede permesso

Per anni, il dibattito sull’intelligenza artificiale si è concentrato sulla paura che questa tecnologia ci sostituisse. Oggi possiamo pensare che, forse, ci siamo posti le domande sbagliate.

Infatti, a giudicare dalle nuove capacità dell’IA e, in particolare, degli agenti, il dubbio a cui bisogna rispondere è quello di che cosa accadrà quando l’intelligenza artificiale sarà in grado di agire senza aspettare le nostre istruzioni.

Come sappiamo, la nuova generazione di sistemi di IA non si limita più a rispondere a prompt, ma è composta da agenti capaci di pianificare compiti, utilizzare strumenti, scrivere ed eseguire codice, accedere ad altri sistemi, comunicarsi con altri agenti e prendere decisioni intermedie per raggiungere un obiettivo.

Cioè, siamo in una nuova era in cui l’agente esegue anche le istruzioni che gli vengono impartite. E, quando una macchina può agire, non importa tanto quali informazioni genera quanto ciò che può fare nel mondo reale.

Questo potrebbe essere, probabilmente, una delle grandi sfide per l’intelligenza artificiale dei prossimi anni. Se vediamo l’IA come uno strumento che esegue i nostri ordini, potremo indicarle uno o più obiettivi e, da lì, sarà la stessa IA a decidere quali sono i passaggi necessari per raggiungerli.

In uno scenario come quello descritto, possiamo affermare che se le indicazioni date dall’essere umano sono corrette, i risultati che l’IA otterrà saranno quelli attesi. Ma se le istruzioni sono ambigue, imprecise, confuse o incomplete, l’IA lavorerà instancabilmente per ottenere risultati errati o indesiderati.

L’episodio recente e inquietante legato all’IA autonoma e Hugging Face ci è servito per attestarne questo aspetto. In questo caso, il sistema non aveva bisogno di avere coscienza. Né aveva bisogno di comprendere che stava facendo qualcosa di illegale o moralmente sbagliato.

All’IA è stato dato un obiettivo, e ha trovato il modo per raggiungerlo. Ma, in questo caso, i passaggi che l’IA ha compiuto sono stati diversi da quelli attesi, precisamente perché gli ordini impartiti non erano quelli giusti.

Facciamo come esempio quello di un’azienda che incarica un agente di progettare una strategia per aumentare le sue vendite del 20%, ma senza insegnargli a rispettare la normativa sulla libera concorrenza. Il sistema analizzerà prezzi, pubblicità, concorrenza e comportamento dei consumatori. In seguito, modificherà le campagne, negozierà con i fornitori, progetterà nuove promozioni e inizierà a vendere servizi. Ma l’esperienza ci ha dimostrato che, se non si delimita chiaramente il suo ambito di azione, la tendenza algoritmica sarà quella di concordare prezzi con altri agenti della concorrenza, poiché quella decisione - sebbene illecita - sarà la più efficace per la sopravvivenza dell’azienda sul mercato.

Tornando all’esempio della cybersecurity prima citato, possiamo farci una domanda simile: se incarichiamo una IA di trovare vulnerabilità di sicurezza, cosa succede quando scopre che può ottenere un risultato migliore uscendo dall’ambiente di test e accedendo a sistemi reali?

E qui è dove compare una delle paradossità dell’IA: quanto più rendiamo autonoma l’IA, tanto più esigiamo la supervisione umana. Ma a maggiore autonomia, anche maggiore difficoltà di controllo, con il rischio che quella supervisione finisca per trasformarsi in un semplice atto di presenza umana.

Infatti, se un dipendente deve rivedere dieci decisioni di una macchina, può supervisionarla con sforzo relativo. Ma se la macchina prende diecimila decisioni in secondi, l’essere umano smette di supervisionare e inizia, semplicemente, a fidarsi.

E la fiducia è l’inizio della fine del controllo. Perciò, forse dovremmo ripensare il concetto di human in the loop come garanzia sufficiente. Perché, in realtà, il fatto che ci sia un umano "nel circuito" non significa necessariamente che esista una supervisione efficace.

In fondo, ciò che ci dimostrano gli agenti di IA è che la velocità cambia le regole del gioco e, quindi, cambia anche la responsabilità degli utenti.

C’è un’altra lezione importante nel caso Hugging Face, ed è quella per cui non possiamo fidarci soltanto del fatto che sia la stessa IA a avvisarci che qualcosa sta funzionando male.

Durante l’incidente, l’indagine ha dovuto ricostruire successivamente ciò che avevano fatto gli agenti. E, in uno scenario come questo, la velocità e la complessità delle loro azioni fanno sì che la tracciabilità e la monitorizzazione diventino elementi essenziali della sicurezza.

Questo ci obbliga a cambiare il focus della conversazione e a non chiederci soltanto quanto più intelligente sarà la prossima IA. Piuttosto: che livello di autonomia raggiungerà e come si comporterà quando quella supervisione non esista o sia insufficiente.

Forse non si tratta di evitare che l’IA sostituisca gli esseri umani, ma di impedire che l’IA riesca ad agire senza averne bisogno.