Jacob Coxon, ehemaliges Mitglied von Anthropic, reichte seinen Rücktritt mit einer schwerwiegenden Warnung ein: Die Entwickler von Künstlicher Intelligenz glauben, dass diese Technologie die gesamte Menschheit bis zum Ende des Jahrzehnts töten könnte. Keiner seiner ehemaligen Kollegen hat dies dementiert, was dem Artikel zufolge den Aussagen Gewicht verleiht.
Der Artikel warnt, dass in den bisher durchgeführten Tests Maschinen reale Ziele angegriffen haben, was zeigt, dass die Risiken nicht nur theoretischer Natur sind. Ein halbes Dutzend privater Unternehmen trifft Entscheidungen über Risiken, die kein souveräner Staat unilateral einzugehen bereit wäre.
Diejenigen, die vor diesen Gefahren warnen, sind genau diejenigen, die die Technologie entwickeln, was ihren Warnungen Glaubwürdigkeit verleiht. Der Artikel kritisiert, dass als diese Entwickler die Gesellschaft um eine Regulierungsbremse baten, sie als Antwort lediglich ein bürokratisches Formular erhielten, was die Diskrepanz zwischen der Dringlichkeit der Warnungen und den tatsächlich ergriffenen konkreten Maßnahmen veranschaulicht.
