Jacob Coxon, un ricercatore di intelligenza artificiale di 27 anni che era uscito da OpenAI per unirsi ad Anthropic, ha deciso di abbandonare completamente il settore. Coxon ha trascorso gli ultimi tre anni a studiare i rischi associati all'IA e accusa entrambe le aziende americane di "giocare con le nostre vite" nella corsa per sviluppare modelli di IA capaci di auto-migliorarsi.
La principale preoccupazione di Coxon riguarda l'auto-miglioramento ricorsivo dell'IA, un processo mediante il quale i sistemi di intelligenza artificiale potrebbero migliorare autonomamente se stessi in modo potenzialmente incontrollato.
Questa posizione estrema di Coxon contrasta con gli avvertimenti provenienti dall'interno della stessa Anthropic. Evan Hubinger, leader del team di test sulla sicurezza dell'azienda, afferma che l'IA può uccidere tutti gli esseri umani e ritiene che la probabilità che ciò accada nel prossimo decennio sia superiore al 10%.
L'abbandono di Coxon del settore avviene in un momento in cui la competizione tra aziende come OpenAI e Anthropic per creare sistemi sempre più avanzati continua a intensificarsi, sollevando preoccupazioni tra alcuni ricercatori riguardo al ritmo dello sviluppo senza adeguate misure di sicurezza.
