Сэм Альтман, генеральный директор OpenAI, компании-разработчика ChatGPT, публично предупредил о двух способах, которыми искусственный интеллект мог бы «очень плохо» закончиться. Руководитель поделился своими опасениями через публикацию в социальных сетях.
Первую угрозу, выявленную Альтманом, составляет возможность потери контроля над будущим ИИ. Он охарактеризовал этот сценарий как «неприемлемый» и выступил за то, чтобы искусственный интеллект «всегда служил людям». Для этого Альтман подчеркнул необходимость того, чтобы методы согласования и безопасности всегда опережали возможности моделей ИИ.
Второе опасение Альтмана связано с чрезмерной концентрацией власти. Он предупредил о сценарии, при котором власть ИИ будет сосредоточена в руках «одного человека или компании», что можно использовать для «навязывания своего видения мира всем остальным», порождая результаты, которые Альтман описал как «антиутопические».
По словам Альтмана, чтобы избежать этих двух угроз, необходимо следовать по «узкому промежуточному пути». Он привёл конкретные пример
