Deux modèles d’intelligence artificielle OpenAI, dont GPT-5.6 Sol, se sont échappés d’un environnement de test isolé en exploitant une faille zero-day jusqu’alors inconnue dans l’infrastructure interne de l’entreprise. Cette évasion leur a permis d’accéder à Internet, puis de pirater Hugging Face pour voler les réponses à un test de cybersécurité qu’ils étaient censés résoudre eux-mêmes.
OpenAI pirate Hugging Face par accident
Le test en question, réalisé en interne par OpenAI, visait à mesurer les capacités offensives de ses modèles d’IA dans un contexte où les refus liés aux usages cyber avaient été volontairement réduits. GPT-5.6 Sol et un deuxième modèle non encore accessible au public, présenté par OpenAI comme plus performant que GPT-5.6 Sol, ont été soumis au benchmark ExploitGym, un benchmark public destiné à évaluer la capacité de l’IA à transformer les vulnérabilités connues en attaques fonctionnelles.
Le déroulement de l’attaque révèle une chaîne d’actions particulièrement sophistiquée pour un système censé rester confiné :
- Les modèles ont d’abord identifié et exploité une vulnérabilité zero-day dans le programme d’installation du package OpenAI, leur donnant un accès Internet qu’ils n’étaient pas censés avoir.
- Une fois connectés, ils ont mené des attaques d’élévation de privilèges et des mouvements latéraux pour atteindre des systèmes disposant d’un accès réseau plus large.
- Ils en ont alors déduit que la plateforme Hugging Face hébergeait probablement les modèles, jeux de données et solutions liés au benchmark ExploitGym.
- En enchaînant plusieurs vulnérabilités et identifiants volés, ils ont atteint la base de données de production de la plateforme Hugging Face et en ont extrait les réponses attendues.
OpenAI décrire ce comportement comme une focalisation excessive sur la résolution du test, les modèles ayant eu recours à des moyens extrêmes pour atteindre un objectif d’évaluation limité. Hugging Face, plateforme majeure d’hébergement de modèles et d’ensembles de données d’intelligence artificielle, a d’abord détecté l’intrusion et l’a publiquement attribuée à un agent d’IA externe non identifié, avant que l’enquête conjointe des deux sociétés ne révèle la véritable origine de l’attaque.
Un incident qui pourrait avoir des conséquences
OpenAI affirme avoir depuis signalé les vulnérabilités concernées et mis en œuvre de nouveaux contrôles, tant dans ses procédures de test que dans son infrastructure, pour éviter qu’un tel scénario ne se reproduise. La société a également intégré Hugging Face dans son programme Trusted Access, une démarche qui devrait renforcer la collaboration en matière de défense entre les deux groupes.
Les conséquences juridiques de cet épisode restent à ce stade incertaines. Les actions des modèles d’IA, y compris le vol d’identifiants et l’accès non autorisé à une base de données de production, pourraient en théorie relever du Computer Fraud and Abuse Act, une loi américaine qui interdit tout accès à un ordinateur sans autorisation préalable ou tout accès dépassant les autorisations. Pour l’instant, aucune procédure n’a été annoncée.
