Anthropic, das Unternehmen, das das KI-Modell Claude entwickelt hat, hat öffentlich die Möglichkeit verteidigt, die KI-Entwicklung abzuschwächen oder sogar zu pausieren – eine Entscheidung, die im Technologiesektor für Debatten gesorgt hat. Diese Position ergibt sich aus einem Kontext, in dem das Unternehmen seine eigenen KI-Systeme bereits autonom einsetzt, um die nächsten Generationen der Technologie zu entwickeln.
Im Mai 2026 wurden mehr als 80% des in die Produktionsbasis von Anthropic integrierten Codes vom Claude autonom geschrieben, und die Produktivität der Ingenieure ist durch diese Automatisierung in die Höhe geschossen. Der Artikel warnt, dass wir in eine Phase eintreten, in der KI-Tools beginnen, immer tiefer an der Konstruktion noch leistungsfähigerer Systeme mitzuwirken, was Fragen über die menschliche Fähigkeit aufwirft, die technologische Entwicklung zu überwachen, zu testen und zu kontrollieren.
Anthropic erkennt an, dass ein einzelnes Unternehmen nicht einfach die Entwicklung stoppen kann, denn das würde bedeuten, den Wettbewerbern Vorteile zu überlassen. Deshalb befürwortet das Unternehmen die Notwendigkeit internationaler Koordination, um kollektive Grenzen zu setzen. Der Artikel stellt in Frage, ob irgendeine Großmacht bereit wäre, in einem globalen Technologierennen die Erste zu sein, die verlangsamt.
Der Autor vertritt nicht die Ansicht, dass man den Fortschritt stoppen sollte, und erkennt an, dass KI außergewöhnliche Fortschritte in Wissenschaft, Medizin und Bildung hervorbringen kann. Er warnt jedoch, dass Fortschritt ohne Vorsicht nur gefährliche Beschleunigung sein kann, und dass man, wenn man zu schnell an einem Ort ankommt, den man noch nicht zu regieren weiß, möglicherweise keinen ausreichend wirksamen „Pause-Knopf" haben wird.
