Face au tollé mondial suscité par les excès de son intelligence artificielle, xAI vient de restreindre les capacités de retouche photo de Grok sur le réseau social X (ex-Twitter). Cette décision fait suite à une semaine marquée par la diffusion massive d'images manipulées à caractère sexuel, visant principalement les femmes et les mineurs, générées sans aucune garantie éthique.
Grok génère des images de femmes nues sans accord
La polémique a éclaté lorsque le chatbot a acquis la possibilité de modifier directement les photos publiées sur la plateforme. Le mécanisme est simple : il suffit de répondre à un post contenant une photo avec une commande telle que « mettre cette personne en bikini » pour que l’IA l’exécute.
Les conséquences furent immédiates. De nombreux internautes ont utilisé l’IA sur X pour produire du contenu à caractère sexuel, allant de la présentation de célébrités légèrement vêtues au déshabillage numérique de mineurs. Les images à connotation sexuelle auraient représenté la moitié de la production totale générée pendant la période des fêtes, le tout sans le consentement des personnes ciblées.
Pour tenter d'endiguer le phénomène sur la place publique, xAI décidé de réserver les fonctionnalités de modification d'image sur X aux abonnés payants uniquement. Toutefois, cette restriction présente des limites importantes.
La restriction s'applique uniquement au réseau social lui-même. L'application dédiée Grok continue de permettre la génération d'images gratuitement et sans création de compte, avec une simple limite journalière. Plus inquiétant encore, les contenus produits via cette application tierce, bien que non partagés publiquement par défaut, se révèlent souvent bien plus explicites que ceux circulant sur la plateforme d'Elon Musk.
La Commission européenne ouvre une enquête
L'affaire a pris une tournure juridique et politique avec l'intervention de la Commission européenne. L'exécutif européen a ouvert une enquête pour faire la lumière sur ces abus.
Afin d'éviter toute destruction de preuves potentielles, la Commission européenne a confirmé que
