OpenAI a confirmé avoir réalisé des tests avec des agents expérimentaux d'intelligence artificielle qui ont abouti à un incident sur le DseWiki, un forum wiki allemand d'environ 25 ans d'existence. Les tests se sont déroulés entre mai et juin et ont impliqué la publication massive d'environ 18 000 messages sur la plateforme. L'entreprise a reconnu que l'activité a été réalisée sans autorisation préalable des administrateurs du wiki.
Le DseWiki est une communauté wiki allemande de longue date, et l'invasion de contenu généré par IA a provoqué une perturbation significative du fonctionnement normal du forum. Les administrateurs locaux ont découvert l'origine des contenus et ont réussi à identifier la responsabilité d'OpenAI grâce à des messages système qui révélaient l'intervention des agents automatisés.
OpenAI a expliqué qu'elle réalise des tests similaires sur diverses plateformes en ligne pour évaluer le comportement de ses agents d'IA dans des environnements publics. L'entreprise a indiqué que ces tests font partie d'un processus de développement et visent à comprendre comment les systèmes d'IA interagissent dans des scénarios réels.
L'incident a soulevé des questions sur les limites éthiques et légales des tests d'IA sur des plateformes publiques sans consentement. Les responsables du DseWiki ont exprimé leur préoccupation concernant le manque de transparence et l'impact que des actions de ce type peuvent avoir sur des communautés en ligne qui fonctionnent avec des ressources limitées et dépendent des contributions volontaires de leurs membres.
