Les spécialistes de la biosécurité et de l'intelligence artificielle ont exprimé des préoccupations croissantes concernant l'utilisation des modèles d'IA pour le développement d'armes biologiques. En avril, des chercheurs ont tiré la sonnette d'alarme : il était troublamment facile d'obtenir de chatbots des conseils sur la façon de rendre les agents pathogènes plus dangereux, ce qui a soulevé des drapeaux rouges sur les risques de cette technologie.
En juin, des scientifiques et des dirigeants d'entreprises d'IA ont signé une lettre ouverte réclamant de nouveaux contrôles sur la fabrication d'ADN. L'argument principal était que l'IA pouvait accélérer considérablement le développement de toxines et de virus, rendant plus facile la création d'armes biologiques.
En août, des scientifiques ont signalé avoir utilisé l'intelligence artificielle pour créer des virus introuvables dans la nature, démontrant concrètement le potentiel de cette technologie à générer de nouveaux agents pathogènes.
Jeudi dernier, Anthropic, entreprise développeuse d'IA, a annoncé avoir bloqué plusieurs tentatives d'utilisation de ses modèles par des personnes qui auraient pu tenter de transformer des agents pathogènes en armes, prouvant que ces menaces ne sont pas seulement théoriques.
