Google annoncé poursuivre en justice l’organisation cybercriminelle chinoise Outsider Enterprise qui a utilisé Gemini et la marque Google pour orchestrer une opération de fraude massive touchant des centaines de milliers de victimes, en coordination avec le FBI et les opérateurs américains AT&T, T-Mobile et Verizon.
Google, victime de son propre modèle d’IA
L’ampleur de l’opération révélée dans la plainte donne la mesure de ce que permet désormais l’intelligence artificielle aux réseaux criminels organisés. En seulement deux semaines, Outsider Enterprise a généré 2,5 millions de messages contenant des liens vers des sites frauduleux et 55 000 messages texte spam signalés par les utilisateurs d’Android. Au total, le groupe a créé 9 000 faux sites Web et un million d’URL frauduleuses imitant Google, YouTube, le service postal des États-Unis et le service de péage E-ZPass de New York. Les pertes sont estimées à plusieurs millions de dollars.
La plainte vise à obtenir une ordonnance d’interdiction pour fermer le réseau. Ce qui frappe, au-delà des chiffres, c’est que Gemini, le modèle d’IA de Google, a servi d’outil central à l’opération. Le directeur juridique de Google, DeLaine Prado, a déclaré au New York Times : « Il s’agit de notre premier effort coordonné et de notre première poursuite, et cela témoigne de l’ampleur de l’impact de cette escroquerie particulière. » Google n’a pas révélé quelles mesures internes il a prises pour contrôler l’accès à Gemini, malgré sa position de fournisseur du modèle piraté.
Une réponse législative en sept textes
Google ne s’arrête pas au processus juridique. L’entreprise plaide pour l’adoption d’au moins sept projets de loi bipartites, dont la loi sur la stratégie nationale de lutte contre les escroqueries, la loi sur le groupe de travail stratégique sur la prévention des escroqueries, la loi STOP aux escroqueries contre les personnes âgées et la loi sur le plan d’IA.
Le député américain Brian Fitzpatrick a résumé le problème : « Ce n’est pas du spam. Il s’agit d’un crime transnational organisé qui transite par nos téléphones et qui exige une réponse aussi coordonnée et agressive que la menace elle-même. » Brett Leatherman, directeur adjoint du FBI, a ajouté : « Les criminels utilisent de plus en plus l’IA pour rendre ce type de fraude plus convaincant et plus difficile à détecter. Et nous avons besoin d’une solution permanente pour les traduire en justice. »
