Jacob Coxon, ex ricercatore di Anthropic, ha messo in guardia pubblicamente da una potenziale "catastrofe" causata dall'intelligenza artificiale, affermando che i dirigenti delle aziende di IA temono privatamente i rischi catastrofici, ma continuano a investire e sviluppare la tecnologia comunque. Coxon ha lasciato l'azienda dopo quello che ha descritto come un'estate segnata da fallimenti nel contenimento dei sistemi di IA.
Il ricercatore ha criticato l'approccio delle aziende tecnologiche, suggerendo che esiste una contraddizione tra ciò che i leader del settore riconoscono internamente sui pericoli dell'IA e le azioni che intraprendono pubblicamente. La sua uscita dalla Anthropic avviene in un momento di crescente scrutinio sulla sicurezza dei sistemi di IA sempre più potenti.
L'articolo sorge anche nel contesto di una nuova iniziativa al Congresso degli Stati Uniti che cerca di proibire completamente lo sviluppo di IA superintelligente. Questa proposta legislativa riflette i timori crescenti di alcuni specialisti e legislatori riguardo al futuro della tecnologia.
La situazione evidenzia l'aumento delle tensioni all'interno dell'industria dell'IA, dove alcuni professionisti iniziano a rompere il silenzio sui rischi che considerano esistere nello sviluppo accelerato di sistemi sempre più sofisticati.
