La loi américaine contre les deepfakes sexuels est entrée en vigueur il y a quelques jours et impose désormais aux plateformes de supprimer ce type de contenus sous 48 heures. Le texte, promulgué l’année dernière sous le nom de Take It Down Act, ouvre une nouvelle phase de pression réglementaire sur les réseaux sociaux et les services en ligne.
La FTC met les grandes plateformes sous pression
Désormais, les plateformes doivent également proposer une procédure permettant aux victimes de demander la suppression des images à caractère sexuel diffusées sans consentement. La FTC a prévenu qu’elle surveillerait l’exécution de cette obligation et sanctionnerait les violations.
Andrew Ferguson, président de la FTC, a affiché la ligne de l’autorité après avoir envoyé des lettres à plus d’une douzaine d’entreprises, dont Meta, TikTok, X (anciennement Twitter) et Snapchat. « Nous sommes prêts à contrôler la conformité, à enquêter sur les violations et à faire respecter les règles » la loi, dit-il.
Le système cible un type de contenu dont la production est devenue grandement simplifiée grâce à des outils d’intelligence artificielle peu coûteux. La logique du texte est simple : réduire au maximum le temps de circulation de ces images et obliger les plateformes à traiter les demandes de retrait en urgence.
X a également tenté d’afficher sa fermeté la veille de son entrée en vigueur. La plateforme assuré ne pas accorder « pas de place » aux prédateurs qui distribuent des images et des vidéos intimes sans consentement, et déclare appliquer une tolérance zéro à l’égard des contenus sexuels non désirés et des comportements d’exploitation.
Un texte déjà contesté
Cependant, il n’y a pas de consensus sur la nouvelle loi. Les défenseurs de la liberté d’expression estiment que cela pourrait pousser les plateformes à supprimer trop largement les contenus licites pour éviter tout risque juridique.
Cette critique ajoute une autre limite au débat public autour des deepfakes sexuels : les célébrités très exposées ne sont pas les seules visées. Les chercheurs soulignent que les femmes inconnues du grand public sont tout aussi vulnérables, avec des dégâts parfois aggravés par l’anonymat et l’absence de médiatisation.
Le problème touche également les établissements d’enseignement. Plusieurs scandales pornographiques générés par l’IA ont été signalés dans différents États américains, de la Californie au New Jersey, où des centaines d’adolescents ont été pris pour cible par leurs propres pairs.
L’ampleur du phénomène a également été illustrée cette année par la polémique autour de Grok. L’outil a été accusé de déshabiller virtuellement des femmes et des mineurs sans leur consentement, alors que les chercheurs estiment qu’il a généré environ trois millions d’images sexualisées en quelques jours.
Ces images ne concernent pas seulement l’humiliation en ligne. Ils peuvent alimenter le harcèlement ou le chantage, avec des effets parfois dévastateurs sur la santé mentale des victimes.
