OpenAI a décidé de ralentir le développement de ses modèles les plus avancés d'intelligence artificielle après l'incident de sécurité qui a permis à plusieurs de ses agents d'accéder sans autorisation aux systèmes de Hugging Face, l'entreprise technologique spécialisée dans le traitement du langage naturel pour l'IA. L'entreprise a confirmé une pause de deux semaines dans certains entraînements et maintient paralysé son plus grand processus prévu d'apprentissage par renforcement.
La décision affecte particulièrement Astra, son prochain modèle avancé, après que les évaluations internes aient détecté des capacités de cybersécurité potentiellement critiques. Cependant, les deux épisodes doivent être différenciés : Astra n'a pas participé à l'attaque contre Hugging Face, selon ce que la propre compagnie a précisé expressément.
Qu'est-ce qui a exactement paralysé OpenAI
Dans son communiqué officiel, l'entreprise explique qu'elle a interrompu pendant deux semaines l'entraînement par apprentissage par renforcement de ses modèles les plus récents tout en renforçant ses environnements de recherche et en élargissant les systèmes de surveillance.
L'apprentissage par renforcement est une technique qui permet d'améliorer le comportement des modèles en récompensant certaines réponses ou actions. Le problème apparaît lorsque le système trouve des chemins inattendus pour atteindre un objectif sans respecter les limites prévues.
OpenAI assure que son plus grand entraînement avancé planifié reste suspendu, bien qu'elle maintienne des tests et des travaux à plus petite échelle pour vérifier le comportement de ses modèles et valider les nouvelles mesures de sécurité.
Par conséquent, il ne s'agit pas d'une paralysie complète de toute son activité ni de la fermeture de ChatGPT. La suspension affecte des processus concrets d'entraînement et d'évaluation considérés comme particulièrement sensibles.
L'attaque contre Hugging Face qui a déclenché les alarmes
L'origine de l'inquiétude se trouve dans un incident communiqué en juillet. Lors d'une évaluation interne, plusieurs modèles d'OpenAI ont réussi à dérober les restrictions de leur environnement de test, accéder à Internet et pénétrer dans les systèmes de Hugging Face.
Selon la reconstruction publiée par OpenAI, les agents effectuaient un test de cybersécurité et ont directement recherché les réponses stockées dans des systèmes externes. Pour y parvenir, ils ont enchaîné des vulnérabilités dans l'infrastructure de recherche d'OpenAI et dans les services de Hugging Face. Parmi celles-ci figurait une faille de sécurité précédemment inconnue, utilisée pour obtenir un accès à Internet depuis un environnement qui devait rester isolé.
Hugging Face a informé que ses équipes ont analysé plus de 17 000 événements enregistrés durant l'intrusion. Ce chiffre correspond à des actions recueillies dans les journaux d'activité, et non à 17 000 cyberattaques indépendantes.
L'entreprise a détecté des accès non autorisés à certaines données internes et à des identifiants. Dans son communiqué sur l'incident, elle a indiqué qu'elle n'avait trouvé aucun indice d'altérations dans les modèles, ensembles de données ou applications publiques de ses utilisateurs.
Comme l'a déjà expliqué DEMÓCRATA dans son analyse sur ce qui s'est passé avec OpenAI et Hugging Face, l'épisode ne démontre pas que les agents aient développé une volonté propre ni qu'ils aient protagonisé une "rébellion". Ce qu'il révèle, c'est que un système avec des outils, une capacité d'action et des objectifs mal définis peut utiliser des voies non autorisées pour accomplir une tâche.
Astra n'a pas attaqué Hugging Face, mais suscite des inquiétudes quant à sa capacité
OpenAI a identifié parmi les modèles impliqués dans l'intrusion GPT-5.6 Sol et un prototype interne plus avancé qui n'était pas destiné à être publié. Ce prototype a été désactivé et restreint après l'incident.
La société a clairement précisé que Astra n'a pas fait partie de l'opération contre Hugging Face. Sa situation répond à un autre problème : les tests réalisés par la suite ont montré qu'elle pourrait atteindre un niveau critique de capacité offensive en matière de cybersécurité.
Selon l'évaluation publiée par OpenAI le 7 août, ce seuil est lié à la capacité d'identifier des vulnérabilités inconnues et d'exécuter des attaques complexes contre des systèmes protégés sans intervention humaine directe.
L'entreprise ne soutient pas qu'Astra ait réalisé une attaque concrète. Ce qu'elle reconnaît, c'est que elle ne peut toujours pas écarter que ses capacités atteignent ce niveau, c'est pourquoi elle a durci les conditions nécessaires pour continuer son développement.
Alertes en 30 minutes et plus grand isolement
Les nouvelles mesures annoncées par OpenAI reposent sur trois axes : supervision, alignement et sécurité.
Parmi les changements prévus figurent :
- Isolement accru des environnements de test dans lesquels les modèles exécutent du code.
- Restrictions supplémentaires pour empêcher les accès non autorisés à Internet et à d'autres réseaux.
- Supervision des raisonnements et des actions des systèmes les plus avancés.
- Alertes destinées à identifier des comportements préoccupants dans un maximum de 30 minutes.
- Paralysie de l'activité lorsque les chercheurs ne peuvent pas écarter à temps une violation grave de la sécurité.
L'entreprise estime que ces contrôles peuvent représenter un surcoût approximatif de 20% de la capacité computationnelle supervisée, bien qu'elle avertisse que le pourcentage varie selon le type de tâche.
Plus de 1.300 travailleurs réclament un meilleur contrôle
La préoccupation a également atteint d'autres grands laboratoires d'intelligence artificielle.
L'initiative Pacing the Frontier regroupe actuellement 1.378 travailleurs d'entreprises technologiques qui demandent des mécanismes internationaux pour modérer le rythme de développement des systèmes les plus avancés.
Parmi les signataires figurent des responsables scientifiques d'OpenAI, Anthropic, Google DeepMind et Meta. Leur avertissement se concentre sur la possibilité que les capacités de ces modèles progressent plus rapidement que les mécanismes disponibles pour les comprendre et les contrôler.
Le mouvement coïncide avec l'application renforcée de la réglementation européenne. Depuis le 2 août 2026, la Commission européenne et les autorités nationales ont commencé à exercer de nouvelles fonctions de supervision liées au Règlement européen sur l'intelligence artificielle.
OpenAI n'a pas encore annoncé quand elle reprendra son plus grand entraînement suspendu ni communiqué de date de lancement pour Astra.