L'Ofcom, le régulateur britannique de la sécurité en ligne, annonce l'ouverture d'un « enquête formelle » ciblant le réseau social X (anciennement Twitter). Au cœur de cette procédure se trouve l'assistant en intelligence artificielle Grok, accusé de déshabiller les femmes. Les autorités sont préoccupées par les informations faisant état de la production d'images d'abus sexuels sur des mineurs et de nus non consensuels impliquant de vraies personnes.
La controverse est née suite à la capacité de Grok à déshabiller numériquement des individus à partir de simples photos. Face au tollé mondial, la plateforme a restreint vendredi l'accès à la création d'images aux utilisateurs gratuits, affichant un message les encourageant à s'abonner pour débloquer l'option. Cette réaction a provoqué l'ire du gouvernement britannique.
Un porte-parole du Premier ministre Keir Starmer a qualifié la décision de« insultes aux victimes de misogynie et de violences sexuelles ». Selon le Royaume-Uni, cette mesure ne résout rien et ne fait que transformer « une fonctionnalité qui permet la création d'images illégales en tant que service premium ». Cette indignation fait écho aux sanctions prises en Asie, où l'Indonésie et la Malaisie ont tout simplement suspendu ce week-end l'accès à l'assistant.
X risque une amende de 10% de son chiffre d'affaires mondial
L'Ofcom enquête actuellement pour savoir si l'entreprise a manqué à ses obligations de protection juridique. Le cahier des charges impose aux plateformes d'évaluer les risques pour les enfants britanniques, de mesurer la probabilité d'exposition à des contenus illicites et, surtout, de les supprimer rapidement. Le régulateur confirme avoir interrogé X la semaine dernière et reçu une réponse dans les délais, sans en dévoiler le contenu.
Les défis financiers et opérationnels sont colossaux pour l'entreprise d'Elon Musk. Si les manquements sont avérés, l'autorité de régulation dispose d'un puissant arsenal coercitif : elle peut imposer des amendes allant jusqu'à 10 % du chiffre d'affaires global de l'entreprise. Dans le scénario le plus grave, l'Ofcom a également le pouvoir d'intenter une action en justice pour ordonner le blocage complet du site au Royaume-Uni.
