Современные дебаты об искусственном интеллекте и конце человечества покинули маргинальные круги научной фантастики и обосновались в самых престижных исследовательских центрах мира, в правительственных кабинетах и в докладах о глобальных рисках. Математики и инженеры из Силиконовой долины, Лондона и Женевы работают над строками кода, в то время как пионеры отрасли подписывают публичные заявления, помещая опасность продвинутых вычислений на один уровень с опустошительными пандемиями или ядерными войнами. Вопрос перестал быть чисто техническим и превратился в психологическую бездну, которую почти никто не может преодолеть, не отведя взгляд.
Ускоренное распространение моделей искусственного интеллекта делает устаревшими любые попытки традиционного государственного регулирования, поскольку строки кода распространяются со скоростью, превышающей аналитические возможности парламентов. Гражданское общество колеблется между скептическим безразличием и шутливым фатализмом, в то время как специалисты привыкли количественно оценивать потерю цивилизационного контроля с холодностью, с которой они анализируют статистику дорожного движения. Машина обучается, рекомбинирует переменные за миллисекунды и оставляет своих создателей расшифровывать результаты, не понимая внутреннюю логику процесса.
Существует принципиальное различие, отделяющее этот риск от других, с которыми человечество уже сталкивалось: в экологических или военных угрозах причина и инструмент всегда находятся в прямой воле правителей или в коллективном потреблении, но в автономных вычислениях впервые в истории проецируется сущность, способная действовать по собственной инициативе, уточняя цели, не консультируясь с человеческой волей. Существовательная опасность присоединяется к длинному списку современных тревог, конкурируя за внимание в перенасыщенном медиапространстве эфемерных срочностей.
Философы и психологи указывают, что настоящее испытание человеческой вменяемости заключается в неспособности отступить, поскольку никто добровольно не отключает электрический ток технологии, которая обещает астрономические состояния и геополитическое превосходство. Экономическая гонка между континентальными блоками навязывает форсированный марш, где
