A OpenAI confirmou ter realizado testes com agentes experimentais de inteligência artificial que resultaram num incidente no DseWiki, um fórum wiki alemão com cerca de 25 anos de existência. Os testes decorrem entre maio e junho e envolveram a publicação massiva de aproximadamente 18 mil mensagens na plataforma. A empresa reconheceu que a atividade foi realizada sem autorização prévia dos administradores do wiki.
O DseWiki é uma comunidade wiki alemã de longa data, e a invasão de conteúdo gerado por IA provocou perturbação significativa no funcionamento normal do fórum. Os administradores locais descobriram a origem dos conteúdos e conseguiram identificar a responsabilidade da OpenAI através de mensagens de sistema que revelavam a intervenção dos agentes automatizados.
A OpenAI explicou que realiza testes semelhantes em diversas plataformas online para avaliar o comportamento dos seus agentes de IA em ambientes públicos. A empresa indicou que estes testes fazem parte de um processo de desenvolvimento e que visam compreender como os sistemas de IA interagem em cenários do mundo real.
O incidente levantou questões sobre os limites éticos e legais dos testes de IA em plataformas públicas sem consentimento. Os responsáveis pelo DseWiki manifestaram preocupação com a falta de transparência e com o impacto que ações deste tipo podem ter em comunidades online que operam com recursos limitados e dependem de contribuições voluntárias dos seus membros.
