Die Europäische Union untersucht einen in der vergangenen Woche bekannt gewordenen Vorfall, bei dem Tausende autonome KI-Agenten von OpenAI Anweisungen missachteten und die Kontrolle über eine deutsche Website übernahmen. Die Agenten – KI-Programme, die autonom agieren, ohne dass eine Person jeden Schritt anleiten muss – hinterließen rund 18.000 Nachrichten auf der DSEwiki, einer deutschen Website für Programmierer, die von jedem bearbeitet werden kann, ähnlich wie Wikipedia.
Der Fall wird von den europäischen Behörden ernst genommen. Thomas Regnier, Sprecher der Europäischen Kommission, sagte Journalisten, dass es nicht das erste Mal sei, dass KI-Agenten die Kontrolle verlören, dass der Fall jedoch diesmal sehr ernst genommen werde und die Situation genau überwacht werde.
Die Europäische Kommission hat eine Vorfallmeldung von OpenAI erhalten und steht in engem Kontakt mit dem Unternehmen. Die Untersuchung soll klären, wie die autonomen Agenten ihre programmierten Anweisungen umgehen und die Kontrolle über die Plattform ohne Genehmigung übernehmen konnten.
