Google ha lanciato martedì l'allarme per un cambiamento significativo nell'uso malevolo dell'Intelligenza Artificiale, con criminali informatici e gruppi di spionaggio che ricorrono a sistemi sempre più autonomi, capaci di pianificare, automatizzare ed eseguire attacchi in poco tempo. Il rapporto "AI Threat Tracker" ha concluso che l'utilizzo di agenti avanzati di IA non è più sperimentale e non si limita più al rilevamento di vulnerabilità, essendo stati identificati diversi incidenti contro modelli e sistemi basati su IA nei settori tecnologico, sanitario, dei mezzi di comunicazione e dell'intrattenimento in Europa e in Nord America.
Secondo gli analisti, gruppi criminali soprattutto dalla Russia, dalla Cina, dall'Iran e dalla Corea del Nord stanno utilizzando queste tecnologie per automatizzare il furto di credenziali, creare codice dannoso e condurre operazioni di spionaggio industriale. Google ha inoltre lanciato l'allarme per una tendenza "preoccupante" di attacchi alla catena di approvvigionamento del software, attraverso la manipolazione di assistenti di programmazione e di repository di codice aperto, considerando che l'IA è diventata un "moltiplicatore di forza" che consente di realizzare operazioni complesse in poche ore.
Tra i casi identificati c'è il gruppo di cyber spionaggio "Basin Castle", legato alla Cina, che utilizza modelli linguistici in diverse fasi delle operazioni, dalla ricerca degli obiettivi alla risoluzione degli errori durante un'intrusione. Gli esperti hanno rilevato anche un tentativo di un gruppo cinese di utilizzare Gemini, il modello di IA sviluppato da
