Несколько инцидентов с системами искусственного интеллекта выявили новые возможности и проблемы безопасности, которые способствовали изменению позиции руководителей компаний, разрабатывающих эти технологии. Впервые высокопоставленные представители сектора публично выступают за необходимость замедления темпов развития ИИ.
Среди выделенных проблем — автономные кибератаки, совершённые с использованием систем ИИ, которые продемонстрировали беспрецедентный уровень сложности. Эти инциденты показали, как технология может быть использована в качестве оружия способами, которые выходят из-под контроля её создателей.
Апокалиптические предупреждения, прозвучавшие от специалистов и самих компаний сектора, появляются в контексте всё более широкого обнажения уязвимостей. Системы ИИ продемонстрировали непредвиденные возможности, которые поднимают вопросы о существующих рисках, связанных с их ускоренным развитием.
Этот момент знаменует разрыв с прежней позицией крупных технологических компаний, которые до сих пор продвигали быстрое развитие ИИ без существенных ограничений. Совпадение инцидентов безопасности и предупреждений об опасностях нерегулируемой технологии, по-видимому, заставило гигантов отрасли изменить свою риторику и призвать к остановке развития.
