Шайам Санкар из компании Palantir публично осудил идеологию «эффективного альтруизма», которая, по его словам, определила движение за безопасность искусственного интеллекта. Его заявления представляют собой резкую критику течения мысли, которое значительно повлияло на дебаты о рисках ИИ.
Санкар охарактеризовал подходы, связанные с этим движением, как «попытку переворота», подвергая сомнению обоснованность и намерения, стоящие за преобладающими стратегиями в области безопасности ИИ. Эта критика возникает в контексте более широких дебатов о том, какие методы наиболее подходят для обеспечения безопасного развития технологий.
Топ-менеджер Palantir особенно раскритиковал одержимость количественной оценкой «экзистенциального риска» искусственного интеллекта. Этот акцент на конкретных метриках и расчётах экстремальных угроз был центральной характеристикой движения за безопасность ИИ, связанного с эффективным альтруизмом.
Статья появляется в момент, когда технологический сектор интенсивно дебатирует о лучших практиках и философиях, направляющих ответственную разработку искусственного интеллекта, с расходящимися взглядами на то, как подходить к потенциальным опасностям технологии.
