Эван Хабинджер, бывший исследователь безопасности Anthropic, заявил, что существует более 10% вероятность того, что искусственный интеллект может убить всех людей в следующем десятилетии. Он объяснил, что хотя риск текущих моделей невысок, его беспокойство связано с «суперинтеллектом», который возникнет, когда ИИ будет использовать собственные возможности для создания более умных версий себя, предупреждая, что это происходит быстрее, чем предполагалось.
Это предупреждение появилось после того, как Financial Times сообщил, что Anthropic отказалась представить свою последнюю модель Институту безопасности ИИ Великобритании для тестирования перед выпуском, что вызвало споры о протоколах безопасности компании.
Даррен Джонс, бывший глава канцелярии премьер-министра Кира Стармера, написал письмо Энди Бёрнэму с просьбой о новом международном договоре по ИИ, конкретно ссылаясь на комментарии Хабинджера как обоснование необходимости международного регулирования.
Письмо Джонса также было адресовано генеральным секретарям Организации Объединённых Наций и Организации экономического сотрудничества и развития, усиливая призыв к скоординированному глобальному ответу перед лицом рисков, представляемых передовым искусственным интеллектом.
