Anthropic, компания-разработчик ИИ-ассистента Claude, заблокировала в этом году по меньшей мере пять исследовательских проектов, которые могли быть связаны с разработкой биологического оружия. Некоторые из этих проектов имели высокий пандемический потенциал.
Компания приняла это решение в рамках своей политики безопасности и ответственного использования ИИ. Anthropic внедрила меры по предотвращению использования своей технологии во вред человечеству.
Блокировка этих проектов поднимает вопросы о роли ИИ-компаний в предотвращении ненадлежащего использования их технологий. Мониторинг потенциально опасных исследований стал приоритетом для Anthropic.
Эта ситуация происходит в контексте растущей обеспокоенности рисками, связанными с разработкой биологического оружия, и ролью, которую искусственный интеллект может играть в этой области.
