Hugging Face, plateforme majeure d’hébergement de modèles et d’ensembles de données d’intelligence artificielle, détecté un piratage réalisé non pas par un humain mais par un agent IA autonome. L’attaque a exploité un ensemble de données malveillantes pour exécuter du code et pénétrer dans les systèmes internes de l’entreprise.
Face à cette intrusion, les équipes de sécurité ont d’abord tenté d’utiliser un modèle d’IA commerciale externe (comme ChatGPT, Claude, etc.) pour analyser les logs d’activités suspectes. Ce modèle, qui n’est pas publiquement nommé, a refusé d’agir, bloqué par ses propres garde-fous de sécurité, un paradoxe qui a contraint Hugging Face à recourir à une IA interne fonctionnant localement pour mener l’analyse médico-légale.
Comment l’agent IA a orchestré la brèche
L’attaque a commencé par la publication d’un ensemble de données piégées sur la plateforme, exploitant une vulnérabilité permettant l’exécution de code à distance. Une fois cet accès obtenu, un agent IA externe a pris le relais et multiplié les actions offensives au travers de bacs à sable éphémères, orchestrant une opération ciblant les services publics.
Ce mode opératoire distingue cette attaque des intrusions classiques : l’automatisation de l’IA a permis d’augmenter le volume des actions malveillantes en très peu de temps. Les informations d’identification volées ont facilité l’accès initial aux systèmes internes, avant que l’ampleur de l’activité anormale ne déclenche des mécanismes de détection.
La détection elle-même repose sur une intelligence artificielle de détection des anomalies qui a identifié les comportements suspects avant que les dégâts ne se propagent davantage. Hugging Face a alors mené une enquête approfondie, mobilisé des spécialistes et coopéré avec les forces de l’ordre. L’entreprise n’a pas précisé si un audit de sécurité avait été réalisé avant le lancement de la plateforme concernée par la faille.
Une fois la vulnérabilité identifiée, Hugging Face a réagi sur plusieurs fronts :
- révocation et rotation de tous les identifiants compromis
- correction de la faille qui permettait l’exécution de code
- recommandation aux utilisateurs de renouveler leurs propres clés d’accès et de vérifier leur activité récente
Le paradoxe d’une IA de cybersécurité trop restreinte
Ce hack chez Hugging Face illustre la tension croissante autour des modèles d’IA pour la cybersécurité. Anthropic a dû fortement contraindre ses modèles Claude Mythos et Fable à des usages liés à la sécurité informatique, allant jusqu’à retirer Fable du marché en raison de restrictions à l’exportation. L’IA est depuis revenue. OpenAI traverse des tensions similaires avec l’administration Trump, préoccupée par l’utilisation de modèles puissants pour des cyberattaques offensives et défensives.
Cette prudence réglementaire crée un effet pervers direct : les IA commerciales les plus performantes deviennent parfois inutilisables pour analyser des incidents réels, précisément parce que leurs propres garde-fous les empêchent de traiter des contenus jugés sensibles. Hugging Face a dû s’appuyer sur une solution interne pour contourner ce blocage, une situation qui pourrait se reproduire à mesure que les régulateurs renforcent la supervision des modèles frontaliers.
