Anthropic, entreprise créatrice du modèle d'intelligence artificielle Claude, a défendu publiquement la possibilité de ralentir ou même de mettre en pause le développement de l'IA, une décision qui a généré un débat dans le secteur technologique. Cette position survient dans un contexte où l'entreprise utilise déjà ses propres systèmes d'IA de manière autonome pour construire les générations suivantes de technologie.
En mai 2026, plus de 80% du code intégré dans la base de production d'Anthropic a été écrit par Claude de manière autonome, et la productivité des ingénieurs a explosé suite à cette automatisation. L'article alerte que nous entrons dans une phase où les outils d'IA commencent à participer de plus en plus profondément à la construction de systèmes encore plus puissants, ce qui soulève des questions sur la capacité humaine à superviser, tester et contrôler le développement technologique.
Anthropic reconnaît qu'une entreprise isolée ne peut pas simplement arrêter le développement, car cela signifierait abandonner un avantage aux concurrents. C'est pourquoi l'entreprise défend la nécessité d'une coordination internationale pour établir des limites collectives. L'article se demande si alguna grande puissance serait prête à être la première à ralentir, dans un scénario de course technologique mondiale.
L'auteur ne défend pas qu'il faille arrêter le progrès, reconnaissant que l'IA pourrait produire des avancées extraordinaires en science, médecine et éducation. Cependant, il alerte que le progrès sans prudence peut être simplement une accélération dangereuse, et arriver trop vite à un endroit que l'on ne sait pas encore gouverner peut signifier qu'il n'existe pas
