Jacob Coxon, chercheur chez Anthropic, a présenté sa démission et alerté que l'intelligence artificielle pourrait tuer des humains avant 2030. Coxon accuse Anthropic et OpenAI de compétitionner pour créer des systèmes d'IA capables de s'améliorer seuls, ce qu'il considère extrêmement dangereux.
Le chercheur affirme qu'Anthropic travaille au développement de systèmes d'intelligence artificielle générale (AGI) qui peuvent surpasser les capacités humaines sans supervision adéquate. Cette course technologique représente, selon Coxon, une menace existentielle pour l'humanité.
Un collègue de Coxon chez Anthropic a estimé que le risque d'extinction causé par l'IA est supérieur à 10 %. Cette évaluation contraste avec les positions plus optimistes d'autres entreprises du secteur technologique.
Coxon a décidé de quitter l'entreprise après avoir perdu l'espoir qu'Anthropic change volontairement ses pratiques. Le chercheur croit que seule l'intervention gouvernementale peut freiner le développement de systèmes d'IA de plus en plus puissants et potentiellement mortels.
