Пол Кристиано, технологический консультант администрации США при президенте Трампе, заявил, что OpenAI не находится на правильном пути к снижению рисков «катастрофической» потери контроля до приемлемого уровня. Кристиано предупредил, что существует значительный риск того, что быстрое развитие возможностей искусственного интеллекта приведёт к необратимой потере контроля в обозримом будущем.
Это заявление прозвучало на фоне растущей обеспокоенности общественности и политиков тем, что сверхпродвинутый искусственный интеллект однажды может представлять экзистенциальную угрозу для человечества. Кристиано заявил, что не верит в то, что индустрия ИИ в целом, включая OpenAI, в настоящее время находится на правильном пути к снижению этого риска до приемлемого уровня.
Ранее Кристиано руководил отделом выравнивания моделей в OpenAI — компании со штаб-квартирой в Сан-Франциско. Он сделал это заявление, вступая в совет некоммерческого фонда компании, и также станет членом комитета, ответственного за управление практиками безопасности всей организации.
