Face aux pressions de plusieurs pays et régulateurs, xAI a annoncé il y a quelques heures une série de mesures visant à encadrer plus strictement les capacités de génération et de modification d'images de Grok, son assistant IA intégré à la plateforme X. Cette décision intervient après plusieurs semaines de critiques liées à la diffusion d'images non consensuelles de personnes réelles, souvent sexualisées.
Limites techniques et accès réservés aux abonnés
Désormais, Grok n'est plus autorisé à retoucher des images de personnes réelles lorsqu'elles apparaissent dans des tenues jugées révélatrices, comme des bikinis ou des sous-vêtements. xAI précise que cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants : « Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l'édition d'images de personnes réelles portant des tenues révélatrices, comme des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants. De plus, la création d'images ainsi que la possibilité de modifier des images via le compte Grok sur la plateforme X sont désormais réservées aux abonnés payants. Cette mesure ajoute une couche de protection supplémentaire en garantissant mieux que les personnes qui tentent d'abuser du compte Grok pour enfreindre la loi ou nos politiques puissent être tenues responsables. »
Parallèlement, la génération et l'édition d'images via le compte Grok sur X sont toujours réservées aux abonnés Premium vérifiés. L'entreprise justifie ce choix par la volonté de renforcer la traçabilité et de pouvoir identifier plus facilement les utilisateurs qui tentent de contourner la loi ou les règles internes.
Géoblocages et premières tentatives de contournement
xAI indique également avoir mis en place un géoblocage empêchant la création d'images de personnes réelles en tenues intimes dans les pays où cette pratique est illégale. Malgré ces garde-fous, plusieurs utilisateurs abonnés semblent déjà tester les limites du système, avec des résultats pour le moins mitigés. De leur côté, les comptes non abonnés rencontrent désormais un message indiquant que ces fonctions sont réservées aux abonnés Premium.
Reste à savoir si ces ajustements seront suffisants pour endiguer les abus. L’expérience montre que les tentatives de détournement des filtres de sécurité sont courantes, notamment lorsque les outils sont utilisés à des fins de harcèlement. Par ailleurs, certaines restrictions ne concernent que Grok sur X, laissant planer le doute sur leur réelle portée (les images problématiques pullulent sur la plateforme, la modération étant proche du zéro absolu)
