Технологическая компания Anthropic объявила о выявлении и пресечении кампаний дезинформации и вредоносного использования искусственного интеллекта, проводимых Россией и Китаем. Компания опубликовала отчёт, в котором документирует эти действия и усилия по их пресечению.
Отчёт Anthropic также раскрывает существование исследований, проведённых на языковой модели Claude военной лабораторией. Предположительно, эти исследования изучали способы повышения трансмиссивности вируса чикунгунья.
Компания заявила, что выявила и заблокировала различные попытки ненадлежащего использования своих технологий в целях дезинформации и исследования биологических агентов. В документе подчёркиваются риски, связанные с применением ИИ в контексте безопасности и общественного здравоохранения.
Этот отчёт появляется в условиях растущей обеспокоенности вредоносными применениями искусственного интеллекта, особенно со стороны государственных субъектов. Anthropic подчеркнула важность мониторинга и контроля доступа к своим инструментам для предотвращения злоупотреблений.
