Anthropic вмешалась в этом году, чтобы пресечь пять потенциальных операций, в которых учёные использовали ведущие модели искусственного интеллекта американской компании для исследований, которые могли бы способствовать разработке биологического оружия. Эти случаи описаны в отчёте «Detecting and countering misuse of AI», опубликованном компанией, которая предупреждает о возросших возможностях моделей ИИ в области научных исследований и о риске их использования в злонамеренных целях.
Согласно данным Anthropic, более старые модели, такие как Claude Opus 4 и Claude Sonnet 4.5, выпущенные в 2025 году, находились «значительно ниже» того уровня возможностей, при котором они могли бы оказать существенную помощь опытному пользователю в проведении опасных биологических исследований. Ситуация изменилась с появлением новейших моделей, которые способны поддерживать сложные задачи научных исследований. В качестве меры предосторожности компания выпустила новейшие модели, включая Claude Fable 5, с более строгими защитными механизмами, ограничив доступ к более широкому кругу запросов, связанных с исследованиями двойного назначения в области биологии.
Компания выявила пять конкретных случаев. В одном из них платформа перепродажи обошла региональные блокировки, чтобы предоставить модели вирусологам, участвующим в проекте, финансируемом одним из государств и связанном с исследованиями вируса чикунгунья. В другом случае исследователь на протяжении нескольких недель использовал Claude для планирования экспериментов по адаптации птичьего гриппа к млекопитающим. Третий случай касался посреднического сервиса, через который Opus 5 составил полную заявку на грант для исследований иммунного уклонения ортопоксвирусов. В двух оставшихся случаях исследователь при государственной поддержке использовал модели для создания атласа пептидов яда и системы генеративной оптимизации молекул, а ещё один исследователь прибег к помощи Claude для вычислительного перепроектирования токсинов в рамках национальной программы.
Anthropic подчёркивает, что эти случаи не позволяют сделать вывод о том, что у исследователей обязательно был умысел причинить вред, поскольку те же исследования могут иметь законное применение. После выявления случаев компания заблокировала связанные аккаунты и учла выводы в своих защитных инструментах. Anthropic считает, что публикация этих случаев должна способствовать более широкой дискуссии между компаниями в сфере ИИ и правительствами о рисках использования технологий в биологических исследованиях.
