Méta annoncé la suspension immédiate de l'accès à ses personnages créés par l'intelligence artificielle pour les adolescents du monde entier, sur l'ensemble de ses applications. Cette mesure intervient quelques jours seulement avant l'ouverture d'un procès au Nouveau-Mexique, où l'entreprise est accusée de négligence dans la protection des mineurs contre l'exploitation sexuelle.
Une réponse aux pressions parentales et judiciaires
Meta précise qu'elle n'abandonne pas le projet, mais travaille au développement d'une version mise à jour de ces avatars virtuels. La coupure sera effective dans les semaines à venir pour tout utilisateur ayant déclaré une date de naissance de mineur, ainsi que pour les adultes soupçonnés d'être en réalité des adolescents par les technologies de prédiction d'âge de la plateforme.
Cette décision soudaine fait écho aux demandes des parents souhaitant plus de visibilité et de contrôle sur les interactions de leurs enfants avec l'IA. En octobre, Meta avait déjà présenté des outils de contrôle parental permettant de surveiller les sujets abordés, de bloquer certains personnages ou de désactiver complètement les discussions. Ces fonctionnalités devaient initialement sortir cette année, mais la société a finalement opté pour une désactivation complète et temporaire en attendant la mise à jour du système.
Le contexte juridique est particulièrement tendu pour le géant des réseaux sociaux. En plus de l'affaire du Nouveau-Mexique, Meta fera face la semaine prochaine à un autre procès concernant la dépendance aux médias sociaux, au cours duquel Mark Zuckerberg devrait témoigner. L'entreprise cherche également à limiter la divulgation de documents liés à l'impact de ses plateformes sur la santé mentale des jeunes.
Vers des interactions plus encadrées et pédagogiques
La future version des personnages IA inclura un contrôle parental natif dès son lancement. Meta promet que ces nouveaux interlocuteurs virtuels apporteront des réponses adaptées à l'âge des utilisateurs et se limiteront à des thématiques sûres comme l'éducation, le sport et les loisirs.
Cette initiative s'inscrit dans un renforcement global de la politique de l'entreprise en matière d'IA pour les jeunes. En octobre, Meta avait déjà déployé des restrictions sur Instagram, bloquant l'accès à des sujets sensibles comme la violence extrême, la nudité ou la consommation de drogues graphiques.
