Джейкоб Коксон, 27-летний исследователь искусственного интеллекта, ушедший из OpenAI ради должности в Anthropic, решил полностью покинуть отрасль. Коксон провел последние три года, изучая риски, связанные с ИИ, и обвиняет обе американские компании в «игре с нашими жизнями» в гонке за создание моделей ИИ, способных к самосовершенствованию.
Основная обеспокоенность Коксона связана с рекурсивным самосовершенствованием ИИ — процессом, при котором системы искусственного интеллекта могли бы улучшать себя автономно и потенциально бесконтрольно.
Эта крайняя позиция Коксона контрастирует с предупреждениями изнутри самой Anthropic. Эван Хабингер, руководитель команды проверки безопасности компании, утверждает, что ИИ может уничтожить всё человечество, и считает, что вероятность этого в течение следующего десятилетия превышает 10%.
Уход Коксона из отрасли происходит в момент, когда конкуренция между такими компаниями, как OpenAI и Anthropic, за создание всё более совершенных систем
