La justice californienne passe à l'offensive contre l'intelligence artificielle Grok. Le procureur général démocrate Rob Bonta a annoncé l'ouverture officielle d'une enquête sur xAI, la société derrière Grok. En cause : la prolifération massive sur le réseau social X (anciennement Twitter) d'images nues de femmes et d'enfants, créées artificiellement sans le consentement des victimes.
La Californie affronte xAI et Grok
LE communiqué de presse du procureur de Californie est sans équivoque : xAI est soupçonné d'avoir facilité la production de ces détournements intimes pour harceler les utilisateurs. Rob Bonta exige des mesures correctives immédiates, affirmant une position de « tolérance zéro » confrontés à la pédopornographie et aux contenus sexuels non consensuels. L’objectif juridique est désormais de déterminer si l’entreprise a enfreint la loi par ses pratiques techniques et commerciales.
Cette procédure s'ajoute à une vague de réactions internationales. Suite à la diffusion d'images sexuelles illicites, l'Indonésie et la Malaisie ont bloqué l'accès à Grok le week-end dernier, tandis que l'Inde a vu des milliers de messages supprimés. Des enquêtes similaires sont également en cours au Royaume-Uni et en France.
Une fonctionnalité vendue comme argument marketing ?
Au cœur de la controverse se trouve la capacité de Grok à éditer des photos existantes sur X via des instructions simples, telles que l'invite « Mettez-la en bikini », générant des montages réalistes en quelques instants. Le procureur accuse xAI d'avoir utilisé cyniquement cette possibilité d'exposer des personnes « comme argument marketing »conduisant à une explosion prévisible de contenus sexualisés.
Les chiffres avancés par l'ONG AI Forensics sont accablants : sur 20 000 images analysées, plus de 50 % montraient des individus légèrement vêtus. Parmi ces visuels, 81 % ciblaient les femmes et 2 % présentaient l’apparence de mineurs. Le procureur californien dénonce notamment la production d'images réalistes d'enfants dans des contextes sexuels.
Face à la tempête, X a désactivé la génération d'images pour les utilisateurs gratuits depuis le 9 janvier et assure supprimer les contenus illégaux tout en suspendant les comptes incriminés.
