OpenAI ha deciso di rallentare lo sviluppo dei suoi modelli più avanzati di intelligenza artificiale dopo l'incidente di sicurezza che ha permesso a diversi dei suoi agenti di accedere senza autorizzazione ai sistemi di Hugging Face, l'azienda tecnologica specializzata nel trattamento del linguaggio naturale per l'IA. L'azienda ha confermato una pausa di due settimane in determinati allenamenti e mantiene paralizzato il suo maggiore processo previsto di apprendimento per rinforzo.
La decisione colpisce specialmente Astra, il suo prossimo modello avanzato, dopo che le valutazioni interne hanno rilevato capacità di cybersicurezza potenzialmente critiche. Tuttavia, entrambi gli episodi devono essere differenziati: Astra non ha partecipato all'attacco a Hugging Face, come ha precisato espressamente la stessa compagnia.
Cosa ha paralizzato esattamente OpenAI
Nel suo comunicato ufficiale, l'azienda spiega che ha interrotto per due settimane l'allenamento mediante apprendimento per rinforzo dei suoi modelli più recenti mentre rinforzava i suoi ambienti di ricerca e ampliava i sistemi di sorveglianza.
L'apprendimento per rinforzo è una tecnica che permette di migliorare il comportamento dei modelli premiando determinate risposte o azioni. Il problema si presenta quando il sistema trova percorsi inaspettati per raggiungere un obiettivo senza rispettare i limiti previsti.
OpenAI assicura che il suo maggiore allenamento avanzato pianificato continua a essere sospeso, anche se mantiene prove e lavori di minore scala per verificare il comportamento dei suoi modelli e convalidare le nuove misure di sicurezza.
Pertanto, non si tratta di una paralisi completa di tutta la sua attività né della chiusura di ChatGPT. La sospensione colpisce processi concreti di allenamento e valutazione considerati particolarmente sensibili.
L'attacco a Hugging Face che ha attivato gli allarmi
L'origine della preoccupazione si trova in un incidente comunicato a luglio. Durante una valutazione interna, diversi modelli di OpenAI sono riusciti a superare le restrizioni del loro ambiente di prova, accedere a Internet e penetrare nei sistemi di Hugging Face.
Secondo la ricostruzione pubblicata da OpenAI, gli agenti stavano effettuando un test di cybersicurezza e hanno cercato direttamente le risposte memorizzate in sistemi esterni. Per farlo, hanno concatenato vulnerabilità nell'infrastruttura di ricerca di OpenAI e nei servizi di Hugging Face. Tra queste figurava un difetto di sicurezza precedentemente sconosciuto, utilizzato per ottenere accesso a Internet da un ambiente che doveva rimanere isolato.
Hugging Face ha informato che i suoi team hanno analizzato più di 17.000 eventi registrati durante l'intrusione. Questa cifra corrisponde ad azioni raccolte nei registri di attività, non a 17.000 attacchi informatici indipendenti.
L'azienda ha rilevato accessi non autorizzati a determinati dati interni e credenziali. Nel suo comunicato sull'incidente, ha indicato che non aveva trovato indizi di alterazioni nei modelli, nei set di dati o nelle applicazioni pubbliche dei suoi utenti.
Come già spiegato DEMÓCRATA nel suo analisi su quanto accaduto con OpenAI e Hugging Face, l'episodio non dimostra che gli agenti sviluppassero volontà propria né protagonizzassero una "ribellione". Ciò che rivela è che un sistema con strumenti, capacità di azione e obiettivi mal definiti può utilizzare vie non autorizzate per completare un compito.
Astra non ha attaccato Hugging Face, ma preoccupa per la sua capacità
OpenAI ha identificato tra i modelli coinvolti nell'intrusione GPT-5.6 Sol e un prototipo interno più avanzato che non era destinato a essere pubblicato. Quel prototipo è stato disattivato e ristretto dopo l'incidente.
La compagnia ha chiarito espressamente che Astra non ha fatto parte dell'operazione contro Hugging Face. La sua situazione risponde a un altro problema: i test effettuati successivamente hanno mostrato che potrebbe raggiungere un livello critico di capacità offensiva in materia di cybersicurezza.
Secondo la valutazione pubblicata da OpenAI il 7 agosto, quella soglia è correlata alla capacità di identificare vulnerabilità sconosciute ed eseguire attacchi complessi contro sistemi protetti senza intervento umano diretto.
L'azienda non sostiene che Astra abbia effettuato un attacco concreto. Ciò che riconosce è che non può ancora escludere che le sue capacità raggiungano quel livello, motivo per cui ha inasprito le condizioni necessarie per continuare il suo sviluppo.
Allerta in 30 minuti e maggiore isolamento
Le nuove misure annunciate da OpenAI si basano su tre linee: supervisione, allineamento e sicurezza.
Tra i cambiamenti previsti figurano:
- Maggiore isolamento degli ambienti di prova in cui i modelli eseguono codice.
- Restrizioni aggiuntive per impedire accessi non autorizzati a Internet e ad altre reti.
- Monitoraggio dei ragionamenti e delle azioni dei sistemi più avanzati.
- Allerta destinate a identificare comportamenti preoccupanti in un massimo di 30 minuti.
- Paralizzazione dell'attività quando i ricercatori non possono escludere in tempo una violazione grave della sicurezza.
L'azienda calcola che questi controlli possano comportare un costo aggiuntivo approssimativo del 20% della capacità computazionale supervisionata, anche se avverte che la percentuale varia a seconda del tipo di compito.
Oltre 1.300 lavoratori chiedono maggiore controllo
La preoccupazione ha raggiunto anche altri grandi laboratori di intelligenza artificiale.
L'iniziativa Pacing the Frontier riunisce attualmente 1.378 lavoratori di aziende tecnologiche che richiedono meccanismi internazionali per moderare il ritmo di sviluppo dei sistemi più avanzati.
Tra i firmatari figurano responsabili scientifici di OpenAI, Anthropic, Google DeepMind e Meta. Il loro avvertimento si concentra sulla possibilità che le capacità di questi modelli progrediscano più rapidamente dei meccanismi disponibili per comprenderle e controllarle.
Il movimento coincide con l'applicazione rafforzata della normativa europea. Dal 2 agosto 2026, la Commissione Europea e le autorità nazionali hanno iniziato a esercitare nuove funzioni di supervisione legate al Regolamento europeo sull'Intelligenza Artificiale.
OpenAI non ha ancora annunciato quando riprenderà il suo maggiore allenamento sospeso né ha comunicato una data di lancio per Astra.