A Google alertou esta terça-feira para uma mudança significativa no uso malicioso da Inteligência Artificial, com cibercriminosos e grupos de espionagem a recorrerem a sistemas cada vez mais autónomos, capazes de planear, automatizar e executar ataques em pouco tempo. O relatório "AI Threat Tracker" concluiu que a utilização de agentes avançados de IA deixou de ser experimental e já não se limita à deteção de vulnerabilidades, tendo sido identificados vários incidentes contra modelos e sistemas baseados em IA nos setores tecnológico, da saúde, dos meios de comunicação social e do entretenimento na Europa e na América do Norte.
Segundo os analistas, grupos criminosos sobretudo da Rússia, China, Irão e Coreia do Norte estão a utilizar estas tecnologias para automatizar o roubo de credenciais, criar código malicioso e realizar operações de espionagem industrial. A Google alertou também para uma tendência "preocupante" de ataques à cadeia de fornecimento de software, através da manipulação de assistentes de programação e de repositórios de código aberto, considerando que a IA se tornou um "multiplicador de força" que permite realizar operações complexas em poucas horas.
Entre os casos identificados está o grupo de ciberespionagem "Basin Castle", ligado à China, que utiliza modelos de linguagem em várias fases das operações, desde a investigação de alvos à resolução de erros durante uma intrusão. Os especialistas detetaram também uma tentativa de um grupo chinês para utilizar o Gemini, modelo de IA desenvolvido pela Google, na construção de uma estrutura automatizada de testes destinada a executar as primeiras fases de uma intrusão.
Noutra campanha, a IA foi implementada em infraestruturas roubadas e utilizada para orquestrar um ataque massivo de roubo de credenciais que conseguiu expandir-se e comprometer autonomamente milhares de credenciais em apenas seis horas. A Google salientou que as vulnerabilidades associadas à utilização maliciosa da IA não constituem um problema exclusivo do setor tecnológico, uma vez que estas ferramentas estão a ser aplicadas numa crescente variedade de áreas.
