OpenAI, par la voix de son PDG Sam Altmana révélé de nouvelles données mettant en avant un phénomène particulièrement inquiétant : une proportion importante d’utilisateurs de ChatGPT évoquent des troubles psychologiques dans leurs échanges avec l’IA. Selon OpenAI, environ 0,15 % des utilisateurs hebdomadaires, soit plus d'un million de personnes par semaine, ont des conversations impliquant des pensées suicidaires ou des signes de grande détresse émotionnelle.
OpenAI ajoute qu’un nombre similaire d’utilisateurs développent une forme d’attachement émotionnel excessif au chatbot, tandis que plusieurs centaines de milliers montrent carrément des signes de psychose. Ces cas restent rares par rapport au nombre total d’utilisateurs d’IA, mais la nature et l’ampleur des comportements signalés inquiètent les spécialistes.
Mesures de sécurité renforcées avec GPT-5
Face à ces tristes constats, OpenAI affirme avoir collaboré avec plus de 170 experts en santé mentale pour améliorer la manière dont ChatGPT répond à ces situations sensibles. Selon l'entreprise, le modèle GPT-5 produit désormais des réponses jugées appropriées 91 % du temps, contre 77 % pour la version précédente. L'entreprise met également en place de nouveaux outils de détection automatique pour identifier les jeunes utilisateurs et renforcer le contrôle parental. Malgré ces progrès, des risques demeurent.
Les affaires judiciaires actuelles et les avertissements de plusieurs autorités américaines rappellent à quel point la gestion de la santé mentale dans l’IA générative est devenue un enjeu crucial pour OpenAI, qui cherche désormais à se donner des garants de bonne conduite afin d’éviter de futures poursuites judiciaires.
