Специалисты по биологической безопасности и искусственному интеллекту выражают растущую обеспокоенность использованием моделей ИИ для разработки биологического оружия. В апреле исследователи предупредили, что получить от чат-ботов рекомендации о том, как сделать патогенные агенты более опасными, тревожно легко, что подняло красный флаг в отношении рисков этой технологии.
В июне учёные и руководители компаний в сфере ИИ подписали открытое письмо с призывом ввести новые меры контроля над производством ДНК. Основной аргумент заключается в том, что ИИ может значительно ускорить разработку токсинов и вирусов, облегчив создание биологического оружия.
В августе учёные сообщили об использовании искусственного интеллекта для создания вирусов, не встречающихся в природе, на практике продемонстрировав потенциал этой технологии для создания новых патогенных агентов.
В четверг компания Anthropic, занимающаяся разработкой ИИ, объявила, что заблокировала несколько попыток использования своих моделей со стороны лиц, которые, возможно, пытались превратить патогенные агенты в оружие, что свидетельствует о том, что эти угрозы не являются merely теоретическими.
