Anthropic est intervenue cette année pour arrêter cinq opérations potentielles dans lesquelles des scientifiques ont eu recours aux principaux modèles d'intelligence artificielle de l'entreprise américaine pour des recherches qui pourraient contribuer au développement d'armes biologiques. Les cas sont décrits dans le rapport « Detecting and countering misuse of AI », publié par l'entreprise, qui alerte sur l'augmentation des capacités des modèles d'IA dans le domaine de la recherche scientifique et sur le risque qu'ils soient utilisés à des fins malveillantes.
Selon Anthropic, les modèles plus anciens, comme le Claude Opus 4 et le Claude Sonnet 4.5, lancés en 2025, se situaient « très en dessous » du niveau de capacité à partir duquel ils pourraient fournir une aide significative à un utilisateur sophistiqué pour mener une recherche biologique dangereuse. La situation a changé avec les modèles plus récents, qui sont capables de prendre en charge des tâches complexes de recherche scientifique. Par précaution, l'entreprise a lancé les modèles les plus récents, y compris le Claude Fable 5, avec des protections plus fortes, restreignant l'accès à une gamme plus large de demandes liées à la recherche biologique à double usage.
L'entreprise a identifié cinq cas concrets. Dans l'un d'eux, une plateforme de revente a contourné les blocages régionaux pour mettre les modèles à disposition de virologues impliqués dans un projet financé par un État et lié à la recherche sur le virus du chikungunya. Dans un autre cas, un chercheur a utilisé le Claude pendant plusieurs semaines pour planifier des expériences liées à l'adaptation de la grippe aviaire aux mammifères. Un troisième cas impliquait un service d'intermédiation par lequel l'Opus 5 a élaboré une candidature complète à une bourse de recherche sur l'évasion immunitaire des orthopoxvirus. Dans les deux derniers cas, un chercheur soutenu par l'État a utilisé les modèles pour créer un atlas de peptides de venin et un système d'optimisation générative de molécules, et un autre chercheur a eu recours au Claude pour reconcevoir computationnellement des toxines dans le cadre d'un programme national.
Anthropic souligne que les cas ne permettent pas de conclure que les chercheurs avaient nécessairement l'intention de causer des dommages, puisque les mêmes recherches peuvent avoir des applications légitimes. Après avoir détecté les cas, l'entreprise a interdit les comptes associés et a incorporated les conclusions dans ses outils de protection. Anthropic considère que la divulgation de ces cas devrait contribuer à un débat plus large entre les entreprises d'IA et les gouvernements sur les risques associés à l'utilisation de la technologie dans la recherche biologique.
