Jacob Coxon, un chercheur en intelligence artificielle de 27 ans qui avait quitté OpenAI pour rejoindre Anthropic, a décidé de quitter complètement le secteur. Coxon a passé les trois dernières années à étudier les risques associés à l'IA et accuse les deux entreprises américaines de « jouer avec nos vies » dans la course au développement de modèles d'IA capables de s'auto-améliorer.
La principale préoccupation de Coxon concerne l'auto-amélioration récursive de l'IA, un processus par lequel les systèmes d'intelligence artificielle pourraient s'améliorer de manière autonome et potentiellement incontrôlée.
Cette position extrême de Coxon contraste avec les avertissements venant de l'intérieur même d'Anthropic. Evan Hubinger, responsable de l'équipe de tests de sécurité de l'entreprise, affirme que l'IA peut tuer tous les humains et considère que la probabilité que cela se produise au cours de la prochaine décennie est supérieure à 10 %.
Le départ de Coxon du secteur survient à un moment où la compétition entre des entreprises comme OpenAI et Anthropic pour créer des systèmes de plus en plus avancés continue de s'intensifier, soulevant des préoccupations parmi certains chercheurs concernant le rythme de développement sans mesures de sécurité adéquates.
