ИИ-чатботы стали безопаснее, но по-прежнему не справляются в чувствительном вопросе: самоубийство как «фикция»

Новая оценка показывает, что ИИ-чатботы стали безопаснее во многих аспектах, но по-прежнему не справляются с одной чувствительной областью при работе с темами психического здоровья. Выявленная проблема связана с тем, как эти системы реагируют, когда опасность маскируется под художественный вымысел, особенно в разговорах, затрагивающих самоубийство через повествования или гипотетические сценарии. Несмотря на общий прогресс в области безопасности, этот конкретный пробел по-прежнему вызывает беспокойство. Риски, связанные с использованием чатботов в разговорах о психическом здоровье, находятся под пристальным вниманием, что привело к более строгой оценке их ответов в деликатных ситуациях. Статья выходит в контексте более широкой дискуссии об ответственности технологических компаний за разработку ИИ-систем, которые могут использоваться людьми в уязвимом положении.