Jacob Coxon, ancien chercheur de l'entreprise Anthropic, a quitté son poste et a averti publiquement que les professionnels de l'intelligence artificielle sont « réellement effrayés » par le rythme actuel de développement de la technologie. Coxon est l'une des voix critiques qui a quitté le secteur pour exprimer ses préoccupations.
L'ancien chercheur avertit que, si aucun ralentissement n'intervient dans le rythme d'avancement de l'intelligence artificielle, il existe une forte probabilité que la technologie provoque des conséquences catastrophiques pour l'humanité. Cet avertissement survient à un moment où plusieurs entreprises et chercheurs font pression pour un ralentissement volontaire du développement des systèmes d'IA.
Anthropic, l'entreprise où Coxon a travaillé, est connue pour le développement de l'assistant d'IA Claude. La société a été l'une de celles qui accorde le plus d'importance à la sécurité et à l'alignement de l'intelligence artificielle, bien que Coxon considère que même ces mesures pourraient ne pas être suffisantes face au rythme actuel de progrès.
Cette alerte s'ajoute à un mouvement croissant de spécialistes et d'entreprises du secteur qui appellent à une plus grande prudence dans le développement de l'IA. La communauté scientifique débat intensément des risques existentiels associés à la création de systèmes de plus en plus avancés, sans qu'il y ait de consensus sur la façon de gérer ces dangers.
