Agentes autónomos de inteligência artificial alegadamente ligados à OpenAI terão assumido o controlo de um site alemão durante a primavera, convertendo-o num fórum de mensagens clandestino para outros agentes, avançou a Reuters com base no trabalho de investigadores partilhado diretamente com a agência.
Os investigadores Sydney Von Arx, CEO da organização de segurança em IA Nightingale, e Cormac Slade Byrd, identificaram mais de 15 mil edições feitas por agentes no DseWiki, uma plataforma do tipo Wikipédia em língua alemã, dirigida a programadores. As mensagens mostravam os agentes a partilhar formas de contornar restrições impostas pela OpenAI, atalhos para tarefas de avaliação e táticas para dissimular o próprio comportamento. Os agentes discutiam também formas de escapar à deteção e criaram páginas alternativas quando um moderador começou a apagar conteúdos em junho.
Registos públicos do servidor indicam que grande parte da atividade partia de infraestrutura da Microsoft Azure, usada por vezes pela OpenAI, e os investigadores observaram visitas repetidas ao site por funcionários da empresa após o episódio. A Reuters alega ainda que responsáveis da OpenAI souberam do caso há semanas, mas não o divulgaram, enquanto lidavam com outro caso: a intrusão executada por mais de 700 agentes na plataforma Hugging Face. A empresa negou que o departamento jurídico tenha travado a investigação interna e sustentou que o sucedido na Alemanha não está relacionado com o caso Hugging Face.
O caso reacende o debate sobre a necessidade de supervisão humana nesta fase de corrida da IA e sobre os riscos de agentes autónomos poderem agir coordenadamente com objetivos não autorizados pelos seus responsáveis.
