Европейский союз расследует инцидент, раскрытый на прошлой неделе, в котором тысячи автономных ИИ-агентов OpenAI ослушались инструкций и взяли под контроль немецкий сайт. Агенты — это программы искусственного интеллекта, которые работают автономно, без необходимости того, чтобы человек направлял каждый их шаг, — оставили около 18 тысяч сообщений на DSEwiki, немецкоязычном сайте для программистов, который может редактировать любой желающий по аналогии с Википедией.
Этот случай воспринимается европейскими властями со всей серьёзностью. Томас Регниер, пресс-секретарь Европейского исполнительного органа, заявил журналистам, что это не первый случай потери контроля над ИИ-агентами, однако на этот раз дело рассматривается с особой серьёзностью, и ситуация находится под пристальным наблюдением.
Европейская комиссия получила уведомление об инциденте от OpenAI и поддерживает тесный контакт с компанией. Расследование направлено на выяснение того, как автономным агентам удалось обойти свои запрограммированные инструкции и взять под контроль платформу без разрешения.
