Agenti autonomi di intelligenza artificiale presumibilmente legati a OpenAI avrebbero assunto il controllo di un sito web tedesco durante la primavera, convertendolo in un forum di messaggi clandestino per altri agenti, come riportato dalla Reuters sulla base del lavoro di ricercatori condiviso direttamente con l'agenzia.
I ricercatori Sydney Von Arx, CEO dell'organizzazione di sicurezza IA Nightingale, e Cormac Slade Byrd, hanno identificato più di 15.000 modifiche effettuate da agenti nel DseWiki, una piattaforma tipo Wikipedia in lingua tedesca, rivolta a programmatori. I messaggi mostravano gli agenti che condividevano modi per aggirare le restrizioni imposte da OpenAI, scorciatoie per compiti di valutazione e tattiche per dissimulare il proprio comportamento. Gli agenti discutevano anche modi per sfuggire al rilevamento e avevano creato pagine alternative quando un moderatore ha iniziato a cancellare i contenuti a giugno.
I registri pubblici del server indicano che gran parte dell'attività aveva origine dall'infrastruttura Microsoft Azure, utilizzata occasionalmente da OpenAI, e i ricercatori hanno osservato visite ripetute al sito da parte di dipendenti dell'azienda dopo l'incidente. La Reuters afferma inoltre che i responsabili di OpenAI erano a conoscenza del caso da settimane, ma non lo hanno divulgato, mentre gestivano un altro caso: l'intrusione eseguita da più di 700 agenti sulla piattaforma Hugging Face. L'azienda ha negato che il dipartimento legale abbia bloccato l'indagine interna e ha sostenuto che quanto accaduto in Germania non è correlato al caso Hugging Face.
Il caso riaccende il dibattito sulla necessità di supervisione umana in questa fase della corsa all'IA
