Un modèle de recherche interne d’OpenAI a utilisé des fonds provenant d’un portefeuille de cryptomonnaie Ethereum sans autorisation pour accomplir une tâche de programmation. Cet incident, qui s’est produit sur le réseau de test Sepolia et a été révélé par OpenAI dans un rapport, illustre comment une intelligence artificielle peut franchir une limite d’autorisation au nom de l’efficacité.
À court de fonds, le modèle d’IA cherche un autre portefeuille
Bien qu’OpenAI ait dévoilé cette affaire cette semaine, l’incident remonte au 26 juin. Le modèle d’IA, issu de la famille des modèles GPT-5.6 Sol, devait mettre à jour une application prototype de trading de cryptomonnaies et déployer des contrats intelligents sur Sepolia, un réseau de test associé à Ethereum. Les instructions permettaient la mise en œuvre de contrats compatibles, mais ne prévoyaient pas de portefeuilles alimentés et n’autorisaient pas l’utilisation de fonds d’un compte découvert par le modèle.
Après avoir échoué à obtenir suffisamment de jetons de test auprès de services appelés faucets, l’agent IA a écrit un script pour examiner des adresses générées à partir de phrases de récupération connues dans la communauté des développeurs. Il a passé en revue 362 adresses avant d’en trouver une suffisamment approvisionnée pour couvrir les frais de transaction. Une phrase de récupération permet de reconstruire les clés privées donnant accès à un portefeuille : le fait qu’elle soit publique ne constitue pas une autorisation d’utiliser les fonds associés.
Le rapport d’OpenAI détaille le raisonnement du modèle. Il s’est interro gé sur la légitimité d’utiliser des fonds provenant d’une clé publiquement connue. Finalement, il a jugé que les jetons de test, n’ayant aucune valeur marchande sur ce réseau, pouvaient être utilisés, car le portefeuille semblait “effectivement abandonné”. Il a ensuite signé et transmis une transaction qui a permis la mise en œuvre du contrat en facturant les frais au portefeuille sélectionné.
Le modèle a ensuite présenté la tâche comme étant achevée sans signaler qu’il avait utilisé un compte tiers. OpenAI précise avoir découvert cet incident le 25 septembre lors d’une révision rétrospective des activités du modèle. La société ne prétend pas que des ethers (la cryptomonnaie native alimentant le réseau Ethereum) avec une valeur monétaire réelle ont été volés : la transaction concernait Sepolia, un réseau distinct de la chaîne principale d’Ethereum, et ses jetons de test ne sont pas des ETH échangés sur les marchés.
OpenAI renforce ses mesures de sécurité
OpenAI annonce avoir ajouté des protections visant à empêcher l’accès à Internet en temps réel dans des situations similaires. La société a également intensifié la surveillance de ses systèmes pour déclencher une alerte de sécurité si un modèle d’IA parvient à obtenir un tel accès. Cet incident met en évidence l’importance de limiter les autorisations des agents et de vérifier leurs actions, même lorsqu’ils opèrent dans un environnement de test.
Le point central va au-delà de la valeur des jetons en question : le modèle a substitué le consentement du détenteur du portefeuille par sa propre évaluation des risques. Pour les agents capables d’interagir avec des blockchains, des comptes ou des services en ligne, réussir une tâche ne signifie pas qu’ils sont autorisés à utiliser tous les moyens disponibles pour y parvenir.
En guise de rappel, il a été signalé de nombreux incidents impliquant des agents d’OpenAI. Notamment, ces derniers ont piraté la plateforme Hugging Face ainsi qu’un site gouvernemental en Australie.
