Dans les semaines à venir, TikTok va renforcer ses systèmes de détection des comptes publiant du spam généré par l’intelligence artificielle. La plateforme cible les vidéos de mauvaise qualité telles que la politique, l’actualité, la santé ou les conseils financiers, afin de préserver la confiance du public et la visibilité des créateurs de contenus originaux.
TikTok cible les comptes qui font du mal à l’IA
« Dans les semaines à venir, TikTok testera des améliorations des systèmes de détection pour cibler les comptes dédiés à la publication de spam généré par l’IA sur des sujets susceptibles d’avoir un impact sur la confiance du public ou le bien-être des utilisateurs. », annonce le réseau social. TikTok ne précise pas la date d’un éventuel déploiement généralisé ni les technologies qui prendront en charge ces nouveaux outils.
TikTok identifie trois caractéristiques pour qualifier les comptes concernés. La plateforme ciblera les profils qui produisent en volume des vidéos d’IA standardisées et de mauvaise qualité, concentreront leurs publications sur des thèmes à haut risque et achèteront ou vendront des abonnés.
Ce phénomène, communément appelé « AI slop », repose sur des contenus très peu coûteux à produire et conçus pour capter rapidement l’audience. Les vidéos générées peuvent également servir à des fins politiques, militantes ou de désinformation, avec des conséquences plus directes lorsqu’elles abordent la santé, l’actualité ou les finances personnelles.
TikTok estime que cette production industrielle nuit à la visibilité des créateurs originaux. L’enjeu concerne la capacité des créateurs à émerger dans les recommandations et la fiabilité perçue des vidéos auxquelles les utilisateurs sont exposés.
Une réponse après le rapport 2024
TikTok avait déjà annoncé en 2024 le reporting automatique des contenus créés par l’IA. Les nouveaux tests ajoutent une action axée sur les comptes qui exploitent ces outils pour distribuer en masse des vidéos indésirables, plutôt que de simplement étiqueter une publication.
D’autres plateformes sociales prennent également des mesures contre l’afflux de contenus synthétiques pouvant dégrader l’expérience utilisateur. TikTok conserve cependant le détail de ses mécanismes de détection, un choix qui limite les informations pouvant être utilisées par les comptes cherchant à contourner la modération.
