Une nouvelle évaluation révèle que les chatbots d'intelligence artificielle sont devenus plus sûrs à bien des égards, mais continuent d'échouer dans un domaine sensible lorsqu'ils traitent des thèmes de santé mentale. Le problème identifié concerne la façon dont ces systèmes répondent lorsque le danger se déguise en fiction, notamment dans les conversations qui abordent le suicide par le biais de narrations ou de scénarios hypothétiques. Malgré les progrès généraux en matière de sécurité, cette lacune spécifique demeure une source de préoccupation.
Les risques associés à l'utilisation des chatbots dans les conversations sur la santé mentale font l'objet d'un examen croissant, ce qui a conduit à des évaluations plus rigoureuses de leurs réponses dans les situations délicates. L'article s'inscrit dans le cadre d'un débat plus large sur la responsabilité des entreprises technologiques dans le développement de systèmes d'IA susceptibles d'être utilisés par des personnes en situation de vulnérabilité.
