Des chercheurs en cybersécurité ont utilisé l’intelligence artificielle Claude de l’entreprise Anthropic pour exploiter des vulnérabilités de sécurité et accéder aux systèmes internes d’OpenAI. En particulier, l’équipe de Hacktron AI a réussi à prendre le contrôle des comptes ChatGPT d’employés d’OpenAI et a démontré sa capacité à accéder à un dépôt de code interne, avant de signaler les failles à la société.
Quand Claude aide à pirater le créateur de ChatGPT
L’attaque a commencé par une vulnérabilité dans le forum communautaire d’OpenAI, alimenté par le logiciel tiers Discourse. Les chercheurs ont découvert qu’un utilisateur pouvait soumettre des images au format HEIF ou HEIC, contournant ainsi certaines vérifications avant d’être traitées par différents outils, notamment ImageMagick et la bibliothèque libheif. Cet échec d’exécution de code a constitué le premier pas vers le contrôle de l’instance Discourse.
Les chercheurs ont ensuite associé cette vulnérabilité à une deuxième faille de sécurité touchant le système d’authentification d’OpenAI. Cette combinaison leur a permis de prendre le contrôle de plusieurs comptes ChatGPT et Codex, y compris celui d’un employé d’OpenAI dont le Codex était connecté à l’organisation GitHub privée de l’entreprise. Hacktron AI a ensuite demandé à Codex de créer une demande de tirage dans le monorepo interne d’OpenAI pour démontrer l’accès, sans interroger le contenu du code propriétaire.
Claude a joué un rôle essentiel dans le développement de cette opération. Les chercheurs expliquent que Claude Opus 4.8 avait des difficultés à produire un exploit fonctionnel, tandis que Claude Opus 5, lancé ultérieurement par Anthropic, a réussi à générer le code nécessaire et à adapter l’exploit à l’environnement cible. Selon Hacktron AI, tout le processus, de la découverte initiale à l’accès au dépôt interne, a pris moins de 72 heures.
OpenAI résout le problème et verse 6 500 dollars
Hacktron AI a signalé les vulnérabilités à OpenAI et Discourse après avoir démontré leur impact. OpenAI indique avoir corrigé le problème en environ 14 heures, notamment en réduisant les permissions associées à ses jetons de connexion communautaire et en révoquant les jetons et sessions concernés. L’entreprise a accordé une récompense de 6 500 dollars aux chercheurs en cybersécurité dans le cadre de son programme de recherche sur les vulnérabilités.
Cette affaire met surtout en lumière comment la programmation d’agents d’IA peut réduire le temps nécessaire pour transformer une vulnérabilité de sécurité connue ou nouvellement découverte en attaque fonctionnelle. Matt Fredrikson, directeur de la société de sécurité Gray Swan, estime que des outils disponibles pour environ 200 dollars par mois pourraient permettre à davantage d’acteurs de mener ce type d’attaques, soulignant que le problème ne concerne pas uniquement OpenAI.
Cette situation survient alors qu’OpenAI a récemment documenté un autre incident lié à ses modèles d’IA dans le cadre de ses évaluations de cybersécurité. En juillet, certains de ses modèles avaient réussi à contourner des protections destinées à les isoler d’Internet et à compromettre des systèmes liés à Hugging Face, illustrant l’accélération des capacités offensives des modèles d’IA.
