Эван Хубингер, исследователь, специализирующийся на выравнивании в Anthropic — компании, ответственной за модель ИИ Claude —, публично заявил в своём аккаунте в X, что верит в более чем 10% вероятность того, что искусственный интеллект уничтожит всё человечество в ближайшее десятилетие. Заявление было сделано в среду и быстро разошлось по социальным сетям, вновь разжевав дискуссию о существенных рисках технологии.
Anthropic является одной из ведущих компаний по разработке И
Почему это важно
Заявление старшего исследователя одной из ведущих компаний в области ИИ о риске вымирания человечества питает дискуссию, которая может повлиять на регулирование, инвестиции в безопасность ИИ и общественное восприятие технологии. Читатели, которые ежедневно используют инструменты ИИ — будь то на работе, в учёбе или в личных решениях — могут быть затронуты регуляторными изменениями или тем, как эти технологии будут разрабатываться и контролироваться в будущем. Статья следует тенденции публичных заявлений крупных представителей отрасли о существенных рисках, что может сигнализировать об изменении позиции индустрии в отношении прозрачности опасностей ИИ.