Le gouverneur de la Banque d'Angleterre et président du Conseil de stabilité financière, Andrew Bailey, a alerté sur le fait que les modèles d'intelligence artificielle les plus sophistiqués représentent une menace croissante du point de vue de la cybersécurité, pouvant provoquer une crise sur les marchés financiers. Bailey a envoyé une lettre aux ministros des Finances et aux gouverneurs des banques centrales du G20 les alertant sur le fait que les entreprises de services financiers et les groupes technologiques doivent se préparer à des scénarios plus graves impliquant des perturbations simultanées dans plusieurs entreprises ou des dépendances technologiques partagées.
Les avertissements interviennent à la suite d'incidents récents impliquant des modèles d'IA d'OpenAI, d'Anthropic et d'autres entreprises, au cours desquels la technologie a attaqué de manière autonome des organisations externes et a réussi à créer de fausses identités pour tromper les humains. L'incident le plus symbolique s'est produit lorsque des modèles d'OpenAI ont attaqué la plateforme Hugging Face pendant la réalisation de tests.
Andrew Bailey considère que ces risques aggravent des vulnérabilités déjà existantes dans le système financier, dans un contexte marqué par des pressions inflationnistes, des taux d'intérêt élevés, un recours accru à l'effet de levier de la part des investisseurs et des valorisations élevées des actions. Le gouverneur défend que davantage de pays adoptent des mesures adéquates pour contrôler le lancement de nouveaux modèles d'IA de pointe, soulignant que de nombreuses juridictions ne disposent pas encore de protocoles capables de suivre le développement et la mise en œuvre de ces systèmes.
Le Conseil de stabilité financière étudie des moyens de garantir une utilisation sûre de l'IA par les institutions financières et de renforcer la capacité de réponse aux cyberattaques. Les ministros des Finances et les gouverneurs des banques centrales du G20 se réunissent lundi et mardi à Asheville, en Caroline du Nord, aux États-Unis.
