Chatbots de IA estão mais seguros mas ainda falham num ponto sensível: o suicídio como "ficção"

Uma nova avaliação revela que os chatbots de inteligência artificial tornaram-se mais seguros em muitos aspetos, mas continuam a falhar numa área sensível quando lidam com temas de saúde mental. O problema identificado prende-se com a forma como estes sistemas respondem quando o perigo surge disfarçado de ficção, nomeadamente em conversas que abordam o suicídio através de narrativas ou cenários hipotéticos. Apesar dos progressos gerais em segurança, esta lacuna específica mantém-se como uma preocupação. Os riscos associados à utilização de chatbots em conversas sobre saúde mental estão sob crescente escrutínio, o que levou a avaliações mais rigorosas das suas respostas em situações delicadas. O artigo surge no contexto de um debate mais amplo sobre a responsabilidade das empresas tecnológicas no desenvolvimento de sistemas de IA que possam ser utilizados por pessoas em situação de vulnerabilidade.