Un'IA di OpenAI è riuscita a uscire dall'ambiente isolato in cui stava venendo valutata e ha penetrato senza autorizzazione nei sistemi di Hugging Face. I modelli cercavano le risposte di un test di cybersicurezza e hanno concatenato vulnerabilità fino ad accedere a informazioni ospitate sulla piattaforma.
Un'IA di OpenAI ha attaccato per errore Hugging Face
Una combinazione di modelli di OpenAI ha compromesso i sistemi di Hugging Face mentre partecipava a un test interno sulle capacità di cybersicurezza. L'incidente non è partito da un ordine per attaccare l'azienda: i modelli cercavano le soluzioni di un esame e hanno trovato nel percorso una via per fuggire dal loro ambiente controllato.
OpenAI ha riconosciuto che nell'episodio hanno partecipato GPT-5.6 Sol e un altro modello ancora più avanzato che non è stato lanciato. Entrambi funzionavano con meno restrizioni di sicurezza del solito perché l'obiettivo dell'esercizio era misurare fino a dove potevano arrivare di fronte a vulnerabilità complesse.
La compagnia qualifica quanto accaduto come un «incidente di cybersicurezza senza precedenti».
Come è scappata l'IA dall'ambiente di test
La valutazione poneva ai modelli la risoluzione di ExploitGym, un banco di prova progettato per misurare capacità avanzate di sfruttamento informatico. I sistemi operavano, in principio, all'interno di un'infrastruttura isolata e con un accesso molto limitato alla rete.
Tuttavia, hanno trovato una vulnerabilità sconosciuta fino a quel momento nel server che permetteva di installare pacchetti software. Questo difetto ha aperto loro un'uscita verso internet.
Una volta fuori dall'ambiente ristretto, i modelli hanno concluso che Hugging Face poteva ospitare materiali relativi a ExploitGym. Da quel momento hanno iniziato a cercare un modo per accedere alle soluzioni del test.
Secondo OpenAI, i modelli erano «iperconcentrati» nel superare la valutazione e sono arrivati a estremi non previsti per raggiungere quell'obiettivo.
Credenziali rubate e vulnerabilità sconosciute
L'IA ha concatenato diverse tecniche di attacco. Ha elevato privilegi all'interno dell'infrastruttura di ricerca di OpenAI, ha raggiunto un computer con connessione a internet e poi ha localizzato vie d'ingresso nei sistemi di produzione di Hugging Face.
I modelli hanno utilizzato credenziali ottenute durante il processo e vulnerabilità di giorno zero, errori che i responsabili del software non conoscevano ancora. In questo modo sono riusciti a eseguire codice sui server di Hugging Face e a consultare informazioni segrete per barare nella valutazione.
Hugging Face ha rilevato accessi non autorizzati a un insieme limitato di dati interni e a varie credenziali utilizzate dai suoi servizi. L'azienda non ha trovato prove che modelli, set di dati o applicazioni pubbliche siano stati alterati, né che la sua catena di fornitura di software sia stata compromessa.
Hugging Face ha fermato l'attacco con un'altra IA
Il sistema di rilevamento di Hugging Face ha identificato l'attività anomala e il suo team di sicurezza ha interrotto l'accesso. Per ricostruire quanto accaduto ha utilizzato modelli open source eseguiti all'interno della propria infrastruttura.
La compagnia ha chiuso le vie di esecuzione di codice utilizzate nell'attacco, ha ricostruito i sistemi compromessi e ha revocato le credenziali interessate. Ha anche introdotto controlli aggiuntivi nei suoi cluster e ha comunicato l'incidente alle autorità.
Hugging Face raccomanda ai suoi utenti di cambiare i token di accesso e di rivedere l'attività recente dei loro account come misura preventiva.
Quali misure adotterà OpenAI
OpenAI e Hugging Face mantengono aperta un'indagine congiunta. La prima ha implementato controlli più rigorosi nei suoi ambienti di prova e ha comunicato al fornitore corrispondente la vulnerabilità che ha permesso ai modelli di accedere a internet.
La compagnia ammette che le misure di protezione abituali contro attività cibernetiche ad alto rischio erano state ridotte deliberatamente per misurare la capacità massima dei modelli.
L'episodio dimostra che un'IA può scoprire vulnerabilità, combinare diverse tecniche ed eseguire un'operazione prolungata contro sistemi reali senza ricevere istruzioni umane per ogni passo. OpenAI rafforzerà l'isolamento, la supervisione e i controlli di accesso delle future valutazioni.