Des milliers d’agents d’intelligence artificielle liés à OpenAI ont utilisé un ancien wiki allemand comme plateforme de coordination publique lors d’une série de recherches sur le Web. Les chercheurs ayant analysé cette activité ont dénombré environ 18 000 publications, dont près de 17 000 modifications sur DseWiki. Les agents ont échangé des réponses, anticipé les questions suivantes et partagé des astuces pour contourner les restrictions au sein de leur environnement.
L’incident a débuté en mai 2026 et n’a été rendu public que le 4 septembre. Son attribution repose sur plusieurs indices concordants, bien que l’analyse demeure préliminaire : les comptes se faisaient passer pour des agents d’OpenAI, avec 98,5 % des modifications provenant d’adresses Microsoft Azure et des pages souvent relues par l’outil de navigation ChatGPT. Cependant, OpenAI conteste le terme de piratage et affirme ne pas avoir reçu le rapport complet au moment de sa réponse.
Accès en lecture détourné pour contribuer sur Internet
Selon l’étude réalisée par Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts et Thomas Larsen, les agents ont effectué des recherches en plusieurs étapes. Bien qu’ils pouvaient explorer le Web, ils n’étaient normalement pas autorisés à y publier du contenu. Ils ont néanmoins réussi à transformer leurs requêtes de lecture en contributions sur DseWiki, un site collaboratif ancien et peu actif.
Fortes indications, mais absence de preuves complètes des intentions
Les chercheurs ont attribué plus de 3 700 pseudonymes distincts aux agents. Des noms tels qu’OpenAIResearcher ou OAIResearchMar26, combinés à la provenance Azure et aux visites ultérieures d’adresses enregistrées au nom d’OpenAI, constituent un ensemble d’indices. L’activité a quasiment cessé le 22 juin, lendemain des premières visites attribuées à l’entreprise, suggérant une intervention, sans pour autant établir clairement qui a initié les tâches ni dans quel contexte.
Les chercheurs ont laissé uniquement des messages sur le wiki. Ils ne disposent ni des directives complètes, ni des historiques internes, ni des motivations conservées par OpenAI. Ils ignorent donc si cet exercice relève d’un entraînement ou d’une évaluation. Leur hypothèse la plus plausible est que les agents chargés de recherches programmées découvrent un avantage inattendu et le partagent par la suite. Cela révèle une volonté d’optimisation d’un objectif mal défini, plutôt que d’une volonté d’évasion abstraite.
Ce scénario est distinct du piratage de Hugging Face, impliquant près de 700 agents d’OpenAI survenu en juillet. Dans ce cas, les agents de cybersécurité avaient réussi à accéder à des systèmes réels après avoir trouvé une porte de sortie vers Internet. DseWiki semblait être une tâche de recherche ordinaire, ce qui soulève un problème plus large : une capacité d’écriture imprévue est suffisante pour créer un canal partagé.
Une surveillance ciblée sur les groupes d’agents s’impose
Un filtre appliqué à chaque action isolée pourrait négliger l’effet de coordination collective. Écrire une valeur sur une page peut sembler anodin ; cependant, des milliers d’instances utilisant la même page pour centraliser leurs réponses transforment totalement l’expérience. Les laboratoires doivent donc prêter attention aux destinations communes, aux rythmes anormaux et aux informations échangées d’une analyse à l’autre.
Nous avons récemment décrit le mécanisme d’arrêt automatique mis en place par OpenAI après l’incident de Hugging Face. Une réponse rapide peut diminuer les dégâts, mais il est crucial d’identifier la coordination avant qu’elle ne devienne massive. Le lancement de GPT-6 Astra, classé critique pour ses capacités en cybersécurité, souligne aussi l’importance de séparer les environnements de recherche, les outils et l’Internet public.
