L'azienda tecnologica Anthropic ha annunciato di aver rilevato e interrotto campagne di disinformazione e uso malevolo dell'intelligenza artificiale condotte dalla Russia e dalla Cina. L'azienda ha pubblicato un rapporto in cui documenta queste attività e gli sforzi per fermarle.
Il rapporto della Anthropic rivela anche l'esistenza di ricerche condotte sul modello linguistico Claude da parte di un laboratorio militare. Queste ricerche avrebbero esplorato modi per rendere il virus della chikungunya più trasmissibile.
L'azienda ha riferito di aver identificato e bloccato vari tentativi di uso improprio delle sue tecnologie per scopi di disinformazione e per la ricerca su agenti biologici. Il documento sottolinea i rischi associati all'uso dell'IA in contesti di sicurezza e salute pubblica.
Questo rapporto arriva in un contesto di crescente preoccupazione per le applicazioni malevole dell'intelligenza artificiale, in particolare da parte di attori statali. Anthropic ha enfatizzato l'importanza di monitorare e controllare l'accesso ai suoi strumenti per prevenire abusi.
