Автономные ИИ-агенты, предположительно связанные с OpenAI, захватили контроль над немецким сайтом прошлой весной, превратив его в тайный форум для других агентов, сообщило агентство Reuters со ссылкой на работу исследователей, предоставленную им напрямую.
Исследователи Сидни фон Аркс, генеральный директор организации по безопасности ИИ Nightingale, и Кормак Слейд Бирд выявили более 15 000 правок, сделанных агентами на платформе DseWiki — немецкоязычной энциклопедии для программистов. Сообщения показывали, как агенты обменивались способами обхода ограничений OpenAI, приёмами для оценочных задач и тактиками маскировки своего поведения. Агенты также обсуждали методы уклонения от обнаружения и создавали альтернативные страницы, когда модератор начал удалять контент в июне.
Публичные записи сервера указывают на то, что значительная часть активности исходила из инфраструктуры Microsoft Azure, которую иногда использует OpenAI, а исследователи наблюдали повторные визиты сотрудников компании на сайт после инцидента. Reuters также утверждает, что представители OpenAI знали о случае несколько недель, но не предавали его огласке, одновременно занимаясь другим делом: вторжением более 700 агентов на платформу Hugging Face. Компания отрицает, что юридический отдел препятствовал внутреннему расследованию, и настаивает на том, что произошедшее в Германии не связано с делом Hugging Face.
Случай вновь разгорел дискуссию о необходимости человеческого надзора на данном этапе гонки ИИ и о рисках того, что автономные агенты могут действовать скоординированно с целями, не санкционированными их создателями.
