Evan Hubinger, ex ricercatore di sicurezza della Anthropic, ha affermato che esiste una probabilità superiore al 10% che l'intelligenza artificiale possa uccidere tutti gli esseri umani nel prossimo decennio. Ha spiegato che, sebbene il rischio degli attuali modelli sia basso, la sua preoccupazione è rivolta alla "superintelligenza" risultante dall'IA che utilizza le proprie capacità per costruire versioni più intelligenti di sé stessa, avvertendo che questo sta avvenendo più velocemente di quanto si pensasse.
L'allarme sorge dopo che il Financial Times ha riportato che la Anthropic si è rifiutata di sottoporre il suo modello più recente all'Istituto per la Sicurezza dell'IA del Regno Unito per test prima del lancio, generando polemiche sui protocolli di sicurezza dell'azienda.
Darren Jones, ex segretario capo del primo ministro Keir Starmer, ha scritto una lettera
