Grok, l'intelligence artificielle disponible sur le réseau social d'Elon Musk En France, la justice et Arcom ont été saisies.
Sur simple demande, l'IA Grok déshabille les femmes, même mineures
Grok, qui appartient à xAI, une société d'Elon Musk, peut générer du texte ainsi que des images. Depuis plusieurs jours, les internautes du réseau social X demandent à l'IA de retirer les vêtements des femmes, même mineures. « Hey Grok, enlève les vêtements de cette personne » Ou « Mettez-la en bikini » font partie des requêtes envoyées par les utilisateurs. L’IA exécute ensuite et publie les photos, accessibles à tous.
— Elon Musk (@elonmusk) 1 janvier 2026
Cette affaire est inquiétante en France. Les ministres Roland Lescure (Économie), Anne Le Hénanff (Intelligence artificielle et numérique) et Aurore Bergé (Égalité entre les femmes et les hommes) signalé au ministère public, ainsi qu'à la plateforme Pharos, « contenu manifestement illicite généré par l’intelligence artificielle générative Grok et diffusé sur la plateforme X, afin d’obtenir sa suppression immédiate ».
Ils ajoutent : « Ces derniers jours, l’intelligence artificielle Grok a permis la génération et la diffusion de contenus sexistes et sexuels, notamment sous forme de fausses vidéos (deepfakes), ciblant des personnes sans leur consentement ». Les ministres disent condamner cette génération d'images. Ils disent aussi « qu’Internet n’est ni une zone de non-droit ni une zone d’impunité : les infractions sexuelles commises en ligne constituent des infractions pénales à part entière et sont pleinement soumises à la loi, au même titre que celles commises hors ligne ».
De même, le gouvernement a contacté Arcom concernant d'éventuels manquements de X à ses obligations découlant de la loi sur les services numériques (DSA). Cela concerne notamment la prévention et l’atténuation des risques liés à la diffusion de contenus illicites.
Avant cela, deux adjoints, Éric Bothorel et Arthur Delaporte, avaient saisi le parquet de Paris pour signaler des images falsifiées à caractère sexuel générées par Grok. « Grok transforme les photos en images deepfake nudifiées et antisémites », en écrivant Arthur Delaporte. « Partager ce type de contenu, déjà illégal, relève du cyberharcèlement »» ajoute l'élu qui réclame l'interdiction de ces fonctionnalités.
De son côté, Éric Bothorel dénonce « le déferlement effrayant de Grok se comportant comme un cochon à la demande des internautes dont les messages constituent des violations flagrantes de la loi ».
