OpenAI confirme que son futur mode adulte pour ChatGPT proposera des conversations textuelles érotiques, mais pas de génération d’images, de voix ou de vidéos. Un porte-parole de l’entreprise a décrit au Journal de Wall Street le contenu est qualifié de contenu suggestif plutôt que de pornographie. Le lancement, attendu ce trimestre, a été reporté sans nouvelle date annoncée.
La fonctionnalité a été annoncée en octobre par Sam Altman, patron d’OpenAI, qui affirmait avoir suffisamment résolu le problème. « de graves problèmes de santé mentale » associé au modèle à autoriser« contenu érotique pour adultes vérifiés ». Ce report est dû à des défis techniques sur les garde-fous et à des tensions internes, OpenAI devant arbitrer entre lever les restrictions sur les contenus explicites et garder hors de portée les scénarios les plus problématiques, notamment ceux mettant en scène des comportements non consensuels ou impliquant des mineurs.
Un système de vérification de l’âge défaillant
Le risque d’exposition des mineurs concentre certaines des inquiétudes. Le système de prédiction de l’âge développé par OpenAI a classé les mineurs comme adultes à un moment donné dans environ 12 % des cas. Sachant que ChatGPT attire chaque semaine environ 100 millions d’utilisateurs de moins de 18 ans, ce taux d’erreur pourrait exposer plusieurs millions de mineurs à des conversations sexualisées. OpenAI reconnaît que ses algorithmes de vérification de l’âge fonctionnent conformément à ceux du reste du secteur, mais ne sont jamais complètement infaillibles.
Un conseil consultatif mandaté par la société d’intelligence artificielle avait alerté en janvier sur deux risques spécifiques : l’accessibilité du mode adulte aux enfants et le risque de dépendance émotionnelle au chatbot IA. Un membre du conseil avait utilisé la formule « coach de suicide sexy » pour résumer le danger.
Se limiter au texte n’est pas seulement une contrainte technique. Cette approche facilite la navigation dans les réglementations telles que la loi sur la sécurité en ligne au Royaume-Uni, qui exige une vérification de l’âge pour les images pornographiques, mais pas pour le contenu érotique écrit. Cela contraste avec l’offensive visuelle de la concurrence : Elon Musk a annoncé la semaine dernière que le générateur d’images et de vidéos de Grok pouvait produire n’importe quel contenu. « autorisé dans un film classé R »c’est-à-dire des films interdits aux moins de 17 ans aux Etats-Unis.
