Инженер Anthropic Джейкоб Коксон уволился из компании на этой неделе и обратился к социальной сети X с обвинениями в адрес как Anthropic, так и конкурента OpenAI в безответственном подходе к разработке искусственного интеллекта. Его публикации, которые уже набрали более 70 миллионов просмотров, вызвали волну беспокойства в социальных сетях относительно ускоренных темпов развития этой технологии.
Согласно CNBC, Коксон заявил, что компании «играют с нашими жизнями», и что люди, разрабатывающие эту технологию, верят, что она может «убить нас всех к концу десятилетия». Инженер предупредил, что вскоре появятся «сверхчеловеческие системы, способные взломать что угодно, революционизировать любую область за одну ночь и завоевать реальную власть и ресурсы».
Инженер отметил, что как Anthropic, так и OpenAI осознают эти опасности, но продолжают инвестировать в технологию и участвуют в гонке за проведением первичных публичных размещений акций. Коксон подчеркнул, что «ни одна из этих компаний не действует ответственно» и что они «напрямую движутся к суперинтеллекту, способному к самосовершенствованию».
Комментарии Джейкоба Коксона нашли поддержку у Ивана Хабингера, руководителя отдела согласования в Anthropic, который заявил, что верит в то, что ИИ действительно может уничтожить всё человечество, оценивая вероятность этого более чем в 10% в ближайшее десятилетие. Эти заявления отражают давнюю дискуссию в Силиконовой долине об ответственности за безопасную разработку и контроль искусственного интеллекта.
