Джейкоб Коксон, бывший исследователь компании Anthropic, покинул свой пост и публично предупредил, что специалисты в области искусственного интеллекта "по-настоящему напуганы" текущими темпами развития технологий. Коксон — один из критически настроенных голосов, покинувших сектор, чтобы выразить свои опасения.
Бывший исследователь предупреждает, что если не произойдет замедления темпов развития искусственного интеллекта, существует большая вероятность того, что технология вызовет катастрофические последствия для человечества. Это предупреждение прозвучало в момент, когда различные компании и исследователи призывают к добровольному замедлению разработки систем искусственного интеллекта.
Anthropic, компания, где работал Коксон, известна разработкой ИИ-ассистента Claude. Эта компания является одной из тех, кто уделяет наибольшее внимание безопасности и согласованию целей искусственного интеллекта, хотя Коксон считает, что даже эти меры могут оказаться недостаточными перед лицом текущих темпов прогресса.
Это предупреждение присоединяется к растущему движению специалистов и компаний сектора, требующих большей осторожности в развитии ИИ. Научное сообщество активно обсуждает экзистенциальные риски, связанные с созданием всё более продвинутых систем, однако консенсуса относительно управления этими опасностями пока не достигнуто.
