Jacob Coxon, ex ricercatore dell'azienda Anthropic, ha abbandonato il suo incarico e si è fatto avanti per avvertire che i professionisti del settore dell'intelligenza artificiale sono "genuinamente spaventati" dall'attuale ritmo di sviluppo della tecnologia. Coxon è una delle voci critiche che è uscita dal settore per esprimere le proprie preoccupazioni.
L'ex ricercatore avverte che, se non ci sarà una riduzione nel ritmo di avanzamento dell'intelligenza artificiale, esiste una forte possibilità che la tecnologia provochi conseguenze catastrofiche per l'umanità. L'avvertimento giunge in un momento in cui varie aziende e ricercatori premono per un rallentamento volontario dello sviluppo dei sistemi di IA.
Anthropic, l'azienda dove Coxon ha lavorato, è nota per lo sviluppo dell'assistente di IA Claude. La compagnia è stata una di quelle che ha posto maggiore enfasi sulla sicurezza e l'allineamento dell'intelligenza artificiale, sebbene Coxon ritenga che anche queste misure potrebbero non essere sufficienti di fronte all'attuale ritmo di progresso.
Questo allarme si aggiunge a un movimento crescente di specialisti e aziende del settore che chiedono maggiore prudenza nello sviluppo dell'IA. La comunità scientifica ha dibattuto intensamente i rischi esistenziali associati alla creazione di sistemi sempre più avanzati, senza che vi sia un consenso su come gestire questi pericoli.
