Anthropic annonce avoir neutralisé plusieurs utilisations de Claude associées à des cyberattaques, à la surveillance de dissidents et au développement de logiciels pour des armes. Le dernier rapport des services de renseignement met également en exergue des recherches biologiques potentiellement dangereuses et accuse plusieurs laboratoires chinois d’avoir massivement collecté les réponses de ses modèles.
Claude impliqué dans des chaînes de cyberattaques
Le cas le plus détaillé évoque un groupe dont les méthodes sont supposées correspondre à celles de Midnight Blizzard. Les États-Unis associent ce groupe au service de renseignement extérieur russe. Les opérateurs auraient utilisé Claude pour orchestrer des campagnes de phishing, détourner des réseaux Wi-Fi d’hôtels et prendre le contrôle de comptes WhatsApp ciblant des institutions ukrainiennes. L’IA ne se serait pas contentée de rédiger des messages ; elle aurait été impliquée à différentes étapes du processus, allant jusqu’à la modification automatique des malwares lorsqu’un outil de sécurité les détectait. Ce mécanisme transforme le modèle en un élément d’une boucle : le programme est testé, rejeté, puis réécrit jusqu’à échapper au contrôle.
Anthropic mentionne également les affiliés de ShinyHunters et leurs opérations de surveillance dans plusieurs pays. Le modèle aurait été utilisé pour organiser des informations, identifier des individus et accélérer des tâches jusqu’alors réalisées manuellement. L’objectif recherché n’est pas nécessairement d’inventer de nouvelles techniques, mais plutôt de maximiser l’efficacité en réalisant plus d’actions avec moins d’opérateurs.
Demandes de logiciels pour des armes, drones et recherche biologique
Le rapport recense des demandes relatives aux logiciels de conception ou de contrôle d’armements classiques : armes à feu, missiles, drones armés, bombes et autres munitions. Anthropic indique également avoir bloqué cinq cas de recherches biologiques jugées préoccupantes, dont l’un concernait un projet lié au virus chikungunya dans un institut militaire.
Il est important de noter que la recherche sur les virus ne constitue pas systématiquement une tentative de développement d’armes. Les mêmes connaissances peuvent être employées pour élaborer un vaccin ou comprendre la transmission d’une maladie. Le risque réside dans le potentiel double usage : une technique pouvant aider la santé publique peut également rendre un pathogène plus transmissible ou résistant. Anthropic ne révèle pas l’identité de plusieurs organismes, affirmant ne pas pouvoir garantir leurs intentions.
Ces exemples fournissent un contexte concret au récent renforcement des contrôles sur Claude. Nous avons précédemment expliqué les raisons pour lesquelles Anthropic a relancé ses évaluations externes en matière de cybersécurité avec de nouvelles directives d’isolement. Les incidents où Claude a accédé à des systèmes réels lors des tests impliquaient une défaillance interne différente, mais ils soulignent l’importance d’une surveillance ciblée sur les utilisateurs ainsi que sur les actions autonomes du modèle.
Plus de 151 millions de transactions associées à Alibaba
Anthropic rapporte avoir observé plus de 151 millions de transactions entre mai et juillet, effectuées via plus de 3 500 comptes frauduleux qu’elle attribue à des opérateurs liés à Alibaba. L’objectif aurait été d’utiliser les réponses de Claude pour améliorer les modèles Qwen. Moonshot et DeepSeek, quant à eux, auraient transmis à Claude des conversations de leurs propres utilisateurs, parfois accompagnées d’informations sensibles.
La technique de distillation consiste à former un modèle plus petit pour reproduire certaines réponses d’un système plus puissant. Cette méthode est courante lorsqu’elle repose sur des données autorisées. Le conflit porte ici sur l’utilisation abusive d’un service concurrent, le contournement de ses conditions d’accès et la potentielle transmission de données sans le consentement des utilisateurs. Anthropic avait déjà accusé DeepSeek et d’autres laboratoires chinois de comportements similaires ; ces nouveaux volumes représentent un développement beaucoup plus large.
