Evan Hubinger, ehemaliger Sicherheitsforscher bei Anthropic, erklärte, dass die Wahrscheinlichkeit, dass künstliche Intelligenz alle Menschen im nächsten Jahrzehnt töten könnte, bei über 10% liege. Er erklärte, dass das Risiko der aktuellen Modelle zwar gering sei, seine Bedenken jedoch auf der „Superintelligenz" lägen, die entstehe, wenn KI ihre eigenen Fähigkeiten nutze, um intelligentere Versionen von sich selbst zu erschaffen. Er warnte, dass dies schneller geschehe als gedacht.
Die Warnung erfolgt, nachdem die Financial Times berichtete, dass Anthropic sich weigerte, sein neuestes Modell vor der Veröffentlichung vom britischen AI Safety Institute testen zu lassen, was Kontroversen über die Sicherheitsprotokolle des Unternehmens auslöste.
Darren Jones, ehemaliger Stabschef von Premierminister Keir Starmer, schrieb einen Brief an Andy Burnham, in dem er einen neuen multinationalen KI-Vertrag forderte. Er zitierte spezifisch Hubingers Äußerungen als Begründung für die Notwendigkeit internationaler Regulierung.
Joness Brief wurde auch an die Generalsekretäre der Vereinten Nationen und der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung adressiert, wodurch die Forderung nach einer koordinierten globalen Reaktion auf die Risiken der fortgeschrittenen künstlichen Intelligenz bekräftigt wurde.
