Компания OpenAI подтвердила проведение тестов с экспериментальными агентами искусственного интеллекта, результатом которых стал инцидент на платформе DseWiki — немецком вики-форуме с примерно 25-летней историей. Тесты проводились в период с мая по июнь и включали массовую публикацию около 18 тысяч сообщений на платформе. Компания признала, что деятельность была осуществлена без предварительного разрешения администраторов вики.
DseWiki — это давно существующее немецкое вики-сообщество, и вторжение контента, сгенерированного ИИ, вызвало значительные нарушения в нормальном функционировании форума. Местные администраторы обнаружили источник контента и смогли установить ответственность OpenAI благодаря системным сообщениям, которые раскрыли вмешательство автоматизированных агентов.
Компания OpenAI объяснила, что проводит аналогичные тесты на различных онлайн-платформах для оценки поведения своих агентов ИИ в общедоступных средах. Компания указала, что эти тесты являются частью процесса разработки и направлены на понимание того, как системы ИИ взаимодействуют в реальных сценариях.
Инцидент поднял вопросы об этических и правовых границах тестирования ИИ на публичных платформах без согласия. Ответственные за DseWiki выразили обеспокоенность отсутствием прозрачности и воздействием, которое подобные действия могут оказать на онлайн-сообщества, которые работают с ограниченными ресурсами и зависят от добровольных вкладов своих участников.
