L'azienda Anthropic ha identificato almeno cinque progetti in cui i suoi modelli di intelligenza artificiale sono stati utilizzati in ricerche che potrebbero supportare lo sviluppo di armi biologiche. Questa scoperta ha portato l'azienda a bloccare l'utilizzo dei suoi modelli in queste circostanze.
Alcuni di questi progetti presentavano un alto potenziale pandemico, il che significa che la ricerca in questione avrebbe potuto eventualmente facilitare la creazione di agenti biologici capaci di causare pandemie su larga scala.
Anthropic ha deciso di implementare restrizioni per impedire che i suoi modelli di IA vengano utilizzati in ricerche di questa natura, rafforzando così i controlli di sicurezza esistenti nell'azienda.
Questa situazione si verifica in un contesto di crescente preoccupazione per l'uso improprio delle tecnologie di intelligenza artificiale nello sviluppo di armi di distruzione di massa e altri scopi malevoli.
