I chatbot AI sono più sicuri ma continuano a fallire su un punto sensibile: il suicidio come "finzione"

Una nuova valutazione rivela che i chatbot di intelligenza artificiale sono diventati più sicuri in molti aspetti, ma continuano a fallire in un'area sensibile quando si tratta di temi di salute mentale. Il problema identificato riguarda il modo in cui questi sistemi rispondono quando il pericolo si presenta sotto forma di finzione, in particolare nelle conversazioni che affrontano il suicidio attraverso narrazioni o scenari ipotetici. Nonostante i progressi generali in materia di sicurezza, questa lacuna specifica rimane una preoccupazione. I rischi associati all'utilizzo dei chatbot nelle conversazioni sulla salute mentale sono sotto crescente scrutinio, il che ha portato a valutazioni più rigorose delle loro risposte in situazioni delicate. L'articolo si inserisce nel contesto di un dibattito più ampio sulla responsabilità delle aziende tecnologiche nello sviluppo di sistemi di IA che possano essere utilizzati da persone in situazione di vulnerabilità.