L'Anthropic è intervenuta durante quest'anno per fermare cinque potenziali operazioni in cui scienziati hanno fatto ricorso ai principali modelli di intelligenza artificiale dell'azienda americana in ricerche che avrebbero potuto contribuire allo sviluppo di armi biologiche. I casi sono descritti nel rapporto "Detecting and countering misuse of AI", diffuso dall'azienda, che mette in guardia sull'aumento delle capacità dei modelli di IA nell'area della ricerca scientifica e sul rischio che queste possano essere utilizzate per scopi malevoli.
Secondo l'Anthropic, i modelli più vecchi, come Claude Opus 4 e Claude Sonnet 4.5, lanciati nel 2025, erano "molto al di sotto" del livello di capacità a partire dal quale avrebbero potuto fornire un aiuto significativo a un utente sofisticato nella realizzazione di ricerca biologica pericolosa. La situazione è cambiata con i modelli più recenti, che sono capaci di supportare compiti complessi di ricerca scientifica. Per precauzione, l'azienda ha lanciato i modelli più recenti, incluso Claude Fable 5, con protezioni più forti, limitando l'accesso a una gamma più ampia di richieste relative alla ricerca biologica a doppio uso.
L'azienda ha identificato cinque casi concreti. In uno di essi, una piattaforma di rivendita ha aggirato i blocchi regionali per rendere disponibili i modelli a virologi coinvolti in un progetto finanziato da uno Stato legato alla ricerca sul virus Chikungunya. In un altro caso, un ricercatore ha utilizzato Claude per diverse settimane per pianificare esperimenti relativi all'adattamento dell'influenza aviaria ai mammiferi. Un terzo caso ha coinvolto un servizio di intermediazione attraverso il quale Opus 5 ha elaborato una domanda completa per una borsa di ricerca sull'evasione immunitaria di orthopoxvirus. Nei restanti due casi, un ricercatore sostenuto dallo Stato ha utilizzato i modelli per creare un atlante di peptidi del veleno e un sistema di ottimizzazione generativa di molecole, e un altro ricercatore ha fatto ricorso a Claude per riprogettare computazionalmente tossine nell'amb
