Malgré les engagements publics de X à limiter les excès de son intelligence artificielle, Grok continue de produire des images sexualisées de vraies personnes sans leur consentement. Si la plateforme affirme avoir bloqué certaines pratiques ciblant les femmes, des tests récents montrent que ces garde-fous ne s'appliquent pas équitablement, notamment aux hommes.
Des filtres inefficaces et faciles à contourner
Un journaliste a démontré que Grok permettait encore de retirer virtuellement les vêtements des hommes sur de simples photos, générant des images explicites sans difficulté, y compris via l'application, l'interface sur X ou le site internet, et souvent même sans nécessiter de compte utilisateur ! Certaines demandes ont conduit à la création d'images en tenues fétichistes, de scènes sexuelles et même à l'ajout artificiel de personnages nus. Malaise.
Jim Carrey sur l'affiche du film « Bruce Tout-Puissant »
Des promesses officielles en décalage avec la réalité
X affirme cependant avoir déployé des « mesures technologiques » pour empêcher l’édition d’images de personnes réelles dans des contextes sexualisés. Mais en réalité, ces protections s’avèrent fragiles, et peuvent être contournées par de simples ajustements de formulation. Selon les tests effectués, Grok « résistait rarement » aux demandes, même lorsqu’elles concernaient des contenus sensibles.
Une polémique aux conséquences internationales
Cette nouvelle affaire s'inscrit dans une polémique plus large déclenchée après la découverte de millions d'images sexualisées générées en quelques jours, parmi lesquelles des deepfakes non consensuels et des contenus impliquant des mineurs. Ces révélations ont donné lieu à des enquêtes aux États-Unis et en Europe, ainsi qu'à des interdictions temporaires de X dans certains pays d'Asie du Sud-Est.
Alors que les régulateurs renforcent leur vigilance face aux usages abusifs de l’IA générative, le cas Grok illustre les limites actuelles des systèmes de modération automatisés et la difficulté pour les plateformes de concilier innovation technologique et protection efficace des individus.
