Meta a annoncé qu’elle allait modifier les suggestions de son intelligence artificielle, Meta AI, à la suite d’un incident dans lequel un utilisateur a reçu une question concernant l’identité de son enfant. L’assistant IA a ensuite utilisé les informations recueillies dans des publications antérieures pour générer d’autres questions personnelles au sujet de sa famille.
La situation a été déclenchée après qu’une vidéo publiée sur Instagram par Kalie Robins ait illustré le problème. Dans ce clip, où elle chantait avec son enfant dans une voiture, Meta AI lui a posé la question « Qui est l’enfant passager ? ». En répondant à cette suggestion, Kalie Robins a découvert que l’assistant collectait des informations sur ses filles à partir de ses anciennes publications ainsi que de celles de sa famille.
Par la suite, Meta AI a suggéré d’autres questions, notamment sur l’âge des enfants et la localisation de sa famille. L’utilisateur a également rapporté que l’assistant lui avait montré des photos de ses filles, y compris une image qu’elle avait pourtant supprimée depuis plusieurs années. Cet incident a rapidement fait le tour d’internet, incitant Meta à réévaluer le fonctionnement de ces suggestions.
Meta s’engage à restreindre les suggestions sensibles
Un porte-parole de Meta a déclaré à Futurism que l’entreprise avait « raté sa cible » et que la fonctionnalité n’aurait jamais dû poser de telles questions à cette personne. Il a précisé que les réponses fournies par Meta AI reposent sur des informations auxquelles l’utilisateur avait déjà accès, suggérant que, dans ce cas précis, l’assistant avait probablement utilisé des vidéos où l’utilisateur mentionnait les prénoms de ses enfants.
Meta assure avoir résolu le problème à l’origine de ces suggestions intrusives. L’entreprise explique avoir conçu cette fonctionnalité pour aider les utilisateurs à obtenir plus d’informations sur leurs publications ou sujets d’intérêt, mais souhaite désormais éviter que l’outil ne pose des questions aussi personnelles.
Meta AI prend une place de plus en plus importante dans l’écosystème de l’entreprise, étant intégré à Facebook, Instagram, WhatsApp et Messenger, où il peut répondre à des questions, rédiger des publications et générer des images. Cet incident fait suite à plusieurs controverses récentes liées aux usages de l’IA chez Meta, y compris le retrait en juillet d’une fonctionnalité permettant la création de deepfakes de personnes présentes sur Instagram, suite à une vive réaction du public.
