Meta a désactivé la fonctionnalité liée à Muse Image qui permettait de générer des images par l’intelligence artificielle en taguant simplement un compte public Instagram et en utilisant ses photos, après une vague de critiques d’Hollywood et d’associations de protection des mineurs.
Vous avez dû désactiver vous-même la fonction AI
Cette fonctionnalité, annoncée cette semaine, reposait sur un principe simple mais problématique. Il permettait à tout utilisateur de générer des images IA en mentionnant un compte Instagram public dont il souhaitait réutiliser les photos, sans qu’un consentement explicite ne soit requis au préalable. Pour éviter que leurs propres images soient ainsi exploitées, les utilisateurs devaient eux-mêmes modifier un paramètre dans leurs paramètres ou passer leur compte en privé.
Ce mécanisme a immédiatement suscité l’indignation de plusieurs organisations influentes. Haley McNamara, représentante du Centre national sur l’exploitation sexuelle, dénoncé ce choix de conception en termes très directs : « Non seulement cela érode de manière flagrante nos droits à notre propre image, mais c’est un outil évident pour la sextorsion et d’autres escrocs ! Poursuivre une conception à haut risque et ensuite faire porter la responsabilité aux individus de prendre plusieurs mesures pour se désinscrire est inacceptable ».
Hollywood monte au créneau contre Meta et Instagram
Le syndicat SAG-AFTRA, qui représente environ 170 000 professionnels des médias et du divertissement (acteurs notamment), a recommandé à ses adhérents de désactiver cette fonctionnalité au plus vite. L’agence hollywoodienne CAA a également exprimé publiquement son opposition à ce système, craignant une exploitation non autorisée des images de ses clients à des fins de création de contenus synthétiques.
Face à cette pression coordonnée, Meta a rapidement reculé. La société reconnu son erreur dans un communiqué :
Plus tôt cette semaine, nous avons annoncé qu’une façon de générer des images dans Meta AI consiste à utiliser les comptes Instagram @publics que vous souhaitez référencer. Notre intention était de fournir un outil créatif utile et de permettre aux utilisateurs de contrôler si leur contenu public pouvait être référencé de cette manière. Nous avons entendu des retours selon lesquels cette fonctionnalité ne remplissait pas son objectif et n’est donc plus disponible.
Cet épisode n’est pas isolé dans l’industrie de l’IA générative. OpenAI avait déjà fait face à une controverse similaire avec Sora 2, son outil de génération vidéo, avant de supprimer une fonctionnalité comparable sous la pression des critiques. Ces deux cas illustrent une tension récurrente entre l’ambition des entreprises technologiques d’exploiter les contenus existants pour former ou alimenter leurs modèles, et l’exigence croissante d’un consentement explicite et préalable des personnes concernées, plutôt qu’un simple mécanisme de désabonnement fondé sur la vigilance individuelle des utilisateurs.
