Компания искусственного интеллекта Anthropic заявила, что ей удалось сорвать несколько заговоров, использовавших её модели ИИ для проведения исследований, которые могли способствовать разработке биологического оружия. Объявление было сделано компанией в четверг.
Anthropic гарантировала, что выявила и нейтрализовала эти попытки до того, как они могли принять опасный оборот. Компания не уточнила, сколько заговоров было раскрыто, а также детали относительно точной природы угроз.
Это раскрытие происходит в контексте растущей обеспокоенности по поводу ненадлежащего использования технологий искусственного интеллекта. Компании сектора сталкиваются с давлением с целью внедрения более строгих мер безопасности в своих моделях.
Anthropic является одной из ведущих компаний в секторе ИИ, известной разработкой продвинутых языковых моделей. Компания инвестирует в системы безопасности, чтобы не допустить использования её технологии в пагубных целях.
