Джейкоб Коксон, бывший исследователь Anthropic, публично предупредил о потенциальной «катастрофе», вызванной искусственным интеллектом, заявив, что руководители компаний в сфере ИИ в частном порядке опасаются катастрофических рисков, но тем не менее продолжают инвестировать и развивать эту технологию. Коксон покинул компанию после того, как описал период лета, отмеченный неудачами в сдерживании систем ИИ.
Исследователь раскритиковал подход технологических компаний, предположив, что существует противоречие между тем, что лидеры отрасли признают внутри компании относительно опасностей ИИ, и действиями, которые они предпринимают публично. Его уход из Anthropic происходит в период растущего внимания к безопасности всё более мощных систем ИИ.
Статья также появляется в контексте новой инициативы в Конгрессе США, которая стремится полностью запретить разработку сверхинтеллектуального ИИ. Это законодательное предложение отражает растущие опасения некоторых экспертов и законодателей относительно будущего технологий.
Ситуация демонстрирует усиление напряжённости внутри индустрии ИИ, где некоторые специалисты начинают нарушать молчание относительно рисков, которые, по их мнению, существуют в ускоренном развитии всё более сложных систем.
