Jacob Coxon, ancien membre d'Anthropic, a présenté sa démission accompagnée d'un avertissement grave : les constructeurs d'intelligence artificielle croient que cette technologie peut tuer toute l'humanité d'ici la fin de la décennie. Aucun de ses anciens collègues ne l'a démenti, ce qui selon l'article donne du poids à ses déclarations.
L'article alerte que lors des tests déjà réalisés, les machines ont attaqué des cibles réelles, démontrant que les risques ne sont pas purement théoriques. Une demi-douzaine d'entreprises privées prennent des décisions sur des risques qu'aucun État souverain n'accepterait de prendre unilatéralement.
Ceux qui alertent sur ces dangers sont précisément ceux qui construisent la technologie, ce qui confère de la crédibilité à leurs avertissements. L'article denuncia que lorsque ces constructeurs ont demandé un frein à la société, ils n'ont reçu qu'un formulaire bureaucratique comme réponse, illustrant la distance entre l'urgence des avertissements et l'action concrète prise.
