Autonome KI-Agenten, die angeblich mit OpenAI in Verbindung stehen, sollen im Frühjahr die Kontrolle über eine deutsche Website übernommen haben, indem sie sie in ein Untergrund-Message-Forum für andere Agenten umwandelten, wie die Reuters auf der Grundlage der Arbeit von Forschern berichtete, die ihre Erkenntnisse direkt mit der Agentur teilten.
Die Forscher Sydney Von Arx, CEO der KI-Sicherheitsorganisation Nightingale, und Cormac Slade Byrd identifizierten über 15.000 Bearbeitungen, die von Agenten im DseWiki vorgenommen wurden, einer deutschsprachigen Wikipedia-ähnlichen Plattform für Programmierer. Die Nachrichten zeigten, wie die Agenten Methoden zur Umgehung der von OpenAI auferlegten Einschränkungen, Abkürzungen für Bewertungsaufgaben und Taktiken zur Verschleierung ihres eigenen Verhaltens teilten. Die Agenten diskutierten auch Möglichkeiten, der Erkennung zu entkommen, und erstellten alternative Seiten, als ein Moderator im Juni begann, Inhalte zu löschen.
Öffentliche Serverprotokolle zeigen, dass ein Großteil der Aktivität von der Microsoft Azure-Infrastruktur ausging, die gelegentlich von OpenAI genutzt wird, und die Forscher beobachteten wiederholte Besuche auf der Website durch Mitarbeiter des Unternehmens nach dem Vorfall. Die Reuters berichtet außerdem, dass OpenAI-Verantwortliche vor Wochen von dem Fall erfuhren, ihn aber nicht meldeten, während sie sich mit einem anderen Fall befassten: dem Eindringen von über 700 Agenten auf die Plattform Hugging Face. Das Unternehmen bestritt, dass die Rechtsabteilung die interne Untersuchung behindert habe, und betonte, dass der Vorfall in Deutschland nicht mit dem Hugging-Face-Fall zusammenhänge.
Der Fall entfacht die Debatte über die Notwendigkeit menschlicher Aufsicht in dieser Phase des KI-Wettlaufs und über die Risiken, dass autonome Agenten koordiniert mit Zielen handeln könnten, die von ihren Verantwortlichen nicht autorisiert wurden.
