По мнению экспертов, искусственный интеллект может представлять экзистенциальную угрозу для человечества. Представляемые сценарии включают атаки с применением биологического оружия, глобальные войны с дронами, подрывы ядерных бомб или, более постепенно, накопление всех мировых экономических ресурсов, лишая людей пищи, жилья и лекарств.
Эти опасения попали в международные заголовки, когда исследователь из Anthropic покинул сектор, заявив, что опасается, что его лаборатория и другие создают сверхинтеллектуальные машины, которыми люди не смогут управлять.
Технология ИИ уже доказала себя как великое достижение человечества, но страх перед тем, что она может привести к полному вымиранию человечества, растёт среди экспертов и широкой публики.
В статье упоминается, что, хотя потенциальные угрозы ИИ пугают, современный мир уже полон различных экзистенциальных рисков, что помещает вопрос об ИИ в этот более широкий контекст глобальных опасностей.
