L'IA che cura può anche aiutare a uccidere
Per anni, il pericolo che l'intelligenza artificiale faciliti la creazione di armi biologiche ha appartenuto soprattutto al territorio delle previsioni allarmistiche. Non più. Una delle aziende più avanzate del settore, l'Anthropic, ha rivelato di aver bloccato cinque utilizzi dei suoi modelli correlati a ricerche biologiche ad alto rischio. Non è riuscita a dimostrare che i soggetti coinvolti intendessero causare danni, ma ha identificato tentativi di accesso a informazioni sensibili su agenti patogeni potenzialmente mortali.
L'Anthropic è una delle aziende leader nello sviluppo di modelli linguistici avanzati, che competono direttamente con OpenAI e Google nella corsa all'IA. La rivelazione emerge in un momento in cui la corsa tecnologica tra grandi aziende intensifica la pressione per innovare rapidamente, spesso a scapito di misure di sicurezza più rigorose.
Il caso espone una tensione fondamentale nel settore: più le IA diventano potenti, maggiore è il potenziale di uso improprio. La capacità di generare codice biologico sintetico, modellare proteine pericolose o suggerire formulazioni chimiche letali rappresenta un rischio senza precedenti. Gli esperti avvertono che gli attuali meccanismi di protezione potrebbero essere insufficienti di fronte ad attori malintenzionati determinati ad aggirarli.
Le autorità di regolamentazione
