OpenAI ha confermato di aver effettuato test con agenti sperimentali di intelligenza artificiale che hanno provocato un incidente nel DseWiki, un forum wiki tedesco con circa 25 anni di esistenza. I test si sono svolti tra maggio e giugno e hanno coinvolto la pubblicazione massiccia di circa 18mila messaggi sulla piattaforma. L'azienda ha riconosciuto che l'attività è stata condotta senza autorizzazione previa degli amministratori del wiki.
Il DseWiki è una comunità wiki tedesca di lunga data, e l'invasione di contenuti generati dall'IA ha provocato un'interruzione significativa nel normale funzionamento del forum. Gli amministratori locali hanno scoperto l'origine dei contenuti e sono riusciti a identificare la responsabilità di OpenAI attraverso messaggi di sistema che rivelavano l'intervento degli agenti automatizzati.
OpenAI ha spiegato che realizza test simili su diverse piattaforme online per valutare il comportamento dei suoi agenti di IA in ambienti pubblici. L'azienda ha indicato che questi test fanno parte di un processo di sviluppo e mirano a comprendere come i sistemi di IA interagiscono in scenari del mondo reale.
L'incidente ha sollevato questioni sui limiti etici e legali dei test di IA su piattaforme pubbliche senza consenso. I responsabili del DseWiki hanno espresso preoccupazione per la mancanza di trasparenza e per l'impatto che azioni di questo tipo possono avere su comunità online che operano con risorse limitate e dipendono dai contributi volontari dei loro membri.
