Jacob Coxon, ricercatore di Anthropic, ha presentato le sue dimissioni e ha avvertito che l'intelligenza artificiale potrebbe uccidere gli esseri umani prima del 2030. Coxon accusa Anthropic e OpenAI di stare competendo per creare sistemi di IA capaci di auto-migliorarsi, cosa che considera estremamente pericoloso.
Il ricercatore afferma che Anthropic sta lavorando allo sviluppo di sistemi di intelligenza artificiale generale (AGI) che possono superare le capacità umane senza una supervisione adeguata. Questa corsa tecnologica rappresenta, secondo Coxon, una minaccia esistenziale per l'umanità.
Un collega di Coxon in Anthropic ha stimato che il rischio di estinzione causato dall'IA è superiore al 10%. Questa valutazione contrasta con le posizioni più ottimiste di altre aziende del settore tecnologico.
Coxon ha deciso di lasciare l'azienda dopo aver perso la speranza che Anthropic cambi volontariamente le sue pratiche. Il ricercatore crede che solo un intervento governativo possa fermare lo sviluppo di sistemi di IA sempre più potenti e potenzialmente letali.
