(Öri Infos) – Plus d’un million de personnes évoquent chaque semaine des pensées suicidaires ou des intentions d’automutilation dans leurs conversations avec ChatGPT. Ce volume représente environ 0,15 % des utilisateurs actifs hebdomadaires du service, qui en compte près de 800 millions dans le monde.
L’entreprise américaine explique que ces données proviennent d’une analyse interne menée au cours des derniers mois afin de mieux comprendre comment ses outils sont utilisés dans des contextes de détresse émotionnelle.
Selon OpenAI, environ 560 000 utilisateurs par semaine montrent également des signes de crises psychiatriques aiguës, telles que la manie ou la psychose.
Face à ce constat, la société affirme avoir renforcé la formation et la supervision de son modèle GPT-5. Le taux de conformité aux comportements souhaités dans les conversations sensibles serait ainsi passé de 77 % à 91 %.
Concrètement, ChatGPT propose désormais plus souvent des messages d’écoute empathique, des rappels à la prudence et des redirections vers des lignes d’assistance spécialisées. OpenAI précise aussi collaborer avec 170 cliniciens pour affiner les réponses de l’IA et mieux détecter les signaux de crise.
