YouTube ouvre son outil de détection des deepfakes généré par l’intelligence artificielle à tous les utilisateurs de plus de 18 ans, qui permet désormais à tout adulte de surveiller l’éventuelle apparition de faux contenus sur son visage.
Un scan facial pour repérer les deepfakes
Jusqu’ici, l’outil était surtout réservé à des profils très exposés, avec des créateurs de contenus en octobre dernier puis des agents publics, des journalistes ou de l’industrie du divertissement en mars et des célébrités en avril. Son expansion auprès du grand public marque donc un véritable changement : la protection contre les deepfakes n’est plus réservée aux seules personnalités.
Le système est basé sur un scan facial de type selfie. À l’aide de cette empreinte digitale, YouTube recherche un contenu similaire puis alerte l’utilisateur lorsqu’une correspondance est détectée. La personne concernée peut alors demander la suppression de la vidéo. YouTube précise toutefois que ces retraits ne sont pas automatiques : ils sont examinés au cas par cas dans le cadre de la politique de confidentialité de la plateforme.
Plusieurs critères entrent en jeu lors de l’évaluation d’une candidature. YouTube vérifie en particulier si le contenu semble réaliste, s’il est présenté comme généré par l’IA et si la personne concernée peut être identifiée de manière unique.
Il existe également des exceptions. Le contenu relatif à la parodie ou à la satire peut échapper à la suppression et l’outil ne couvre que la ressemblance faciale, pas d’autres éléments d’identification tels que la voix.
YouTube laisse également une porte de sortie
La plateforme ne nécessite pas cette surveillance à vie. Les utilisateurs peuvent se retirer du programme et demander la suppression de leurs données, ce qui limite au moins en partie la logique de surveillance permanente qu’implique un tel dispositif.
YouTube affirme également que cette extension met tous les créateurs sur un pied d’égalité, qu’ils soient sur la plateforme depuis dix ans ou qu’ils débutent.
De plus, les deepfakes touchent souvent des célébrités ou des dirigeants politiques, mais les individus sont également exposés à des copies numériques de plus en plus crédibles.
Le risque est d’autant moins théorique que des adolescents ont déjà été visés par des deepfakes réalisés par d’autres étudiants. Dans une autre affaire, trois adolescentes ont également poursuivi xAI, accusant Grok d’avoir généré du contenu pédopornographique les représentant, preuve que la menace va bien au-delà du simple embarras en ligne.
