Инженер Anthropic Еван Хабинджер сделал одно из самых решительных предупреждений о риске того, что искусственный интеллект может представлять экзистенциальную угрозу для человечества. Это предупреждение является частью серии всё более тревожных предупреждений, сделанных специалистами в области технологий об опасностях, связанных с разработкой всё более продвинутых систем ИИ.
Хабинджер работает в Anthropic — одной из ведущих компаний в сфере искусственного интеллекта, известной разработкой языковой модели Claude. Компания позиционирует себя как защитника более осторожного подхода к развитию ИИ, подчёркивая важность безопасности и этического выравнивания в создаваемых системах.
Инженер specifically предупредил о вопросах безопасности, связанных с ИИ, указывая на то, что текущие и будущие системы могут представлять значительные риски, если они не будут должным образом контролироваться и выровнены с человеческими ценностями. Подобные предупреждения становятся всё более частыми в технологической индустрии по мере того, как модели ИИ становятся более мощными и способными.
Статья помещает это предупреждение в контекст более широкой дискуссии о рисках искусственного интеллекта, которая разделила мнения между специалистами, технологическими компаниями и регуляторами по всему миру. Озабоченность безопасностью ИИ побудила различные организации выступать за более строгое регулирование и большие инвестиции в исследования по выравниванию и безопасности.
