Jacob Coxon, ein 27-jähriger KI-Forscher, der OpenAI verlassen hatte, um sich Anthropic anzuschließen, hat beschlossen, den Sektor vollständig zu verlassen. Coxon verbrachte die letzten drei Jahre damit, die mit KI verbundenen Risiken zu untersuchen, und beschuldigt beide US-Unternehmen, "mit unseren Leben zu spielen", im Wettlauf um die Entwicklung von KI-Modellen, die sich selbst verbessern können.
Die Hauptsorge von Coxon betrifft die rekursive Selbstverbesserung von KI, einen Prozess, durch den KI-Systeme sich selbst autonom und potenziell unkontrolliert verbessern könnten.
Diese extreme Position von Coxon steht im Gegensatz zu Warnungen aus dem Inneren von Anthropic selbst. Evan Hubinger, Leiter des Sicherheitstest-Teams des Unternehmens, sagt, dass KI alle Menschen töten kann, und glaubt, dass die Wahrscheinlichkeit, dass dies in den nächsten zehn Jahren geschieht, bei über 10 % liegt.
Coxons Ausstieg aus dem Sektor erfolgt in einer Zeit, in der der Wettbewerb zwischen Unternehmen wie OpenAI und Anthropic um die Schaffung immer fortschrittlicherer Systeme weiter zunimmt, was bei einigen Forschern Bedenken hinsichtlich des Tempos der Entwicklung ohne angemessene Sicherheitsmaßnahmen weckt.
