Google a alerté ce mardi d'un changement significatif dans l'utilisation malveillante de l'Intelligence Artificielle, avec des cybercriminels et des groupes d'espionnage recourant à des systèmes de plus en plus autonomes, capables de planifier, automatiser et exécuter des attaques en peu de temps. Le rapport "AI Threat Tracker" a conclu que l'utilisation d'agents avancés d'IA n'est plus expérimentale et ne se limite plus à la détection de vulnérabilités, plusieurs incidents ayant été identifiés contre des modèles et des systèmes basés sur l'IA dans les secteurs technologique, de la santé, des médias de communication et du divertissement en Europe et en Amérique du Nord.
Selon les analystes, des groupes criminels surtout originaires de la Russie, de la Chine, de l'Iran et de la Corée du Nord utilisent ces technologies pour automatiser le vol d'identifiants, créer du code malveillant et réaliser des opérations d'espionnage industriel. Google a également alerté sur une tendance "préoccupante" d'attaques sur la chaîne d'approvisionnement de logiciels, par la manipulation d'assistants de programmation et de dépôts de code open source, considérant que l'IA est devenue un "multiplicateur de force" qui permet de réaliser des opérations complexes en quelques heures.
Parmi les cas identifiés se trouve le groupe de cybertoyennage "Basin Castle", lié à la Chine, qui utilise des modèles de langage dans plusieurs phases des opérations, de la recherche de cibles à la résolution d'erreurs lors d'une intrusion. Les experts ont également détecté une tentative d'un groupe chinois d'utiliser Gemini, le modèle d'IA développé par Google, dans la construction d'une structure automatisée de tests destinée à exécuter les premières phases d'une intrusion.
Dans une autre campagne, l'IA a été implémentée dans des infrastructures volées et utilisée pour orchestrer une attaque massive de vol d'identifiants qui a réussi à s'étendre et à compromettre de manière autonome des milliers d'identifiants en seulement six heures. Google a souligné que les vulnérabilités associées à l'utilisation malveillante de l'IA ne constituent pas un problème exclusif du secteur technologique, étant donné que ces outils sont appliqués dans une variété croissante de domaines.
