Jacob Coxon, Forscher bei Anthropic, hat seinen Rücktritt eingereicht und gewarnt, dass künstliche Intelligenz Menschen vor 2030 töten könnte. Coxon wirft Anthropic und OpenAI vor, im Wettbewerb um die Schaffung von KI-Systemen zu stehen, die sich selbst verbessern können, was er als äußerst gefährlich erachtet.
Der Forscher behauptet, dass Anthropic an der Entwicklung von Systemen für allgemeine künstliche Intelligenz (AGI) arbeitet, die menschliche Fähigkeiten ohne angemessene Aufsicht übertreffen können. Dieser technologische Wettlauf stellt Coxon zufolge eine existenzielle Bedrohung für die Menschheit dar.
Ein Kollege von Coxon bei Anthropic schätzte das Risiko der durch KI verursachten Auslöschung auf über 10%. Diese Einschätzung steht im Gegensatz zu den optimistischeren Positionen anderer Unternehmen der Technologiebranche.
Coxon entschied sich, das Unternehmen zu verlassen, nachdem er die Hoffnung verloren hatte, dass Anthropic seine Praktiken freiwillig ändern wird. Der Forscher ist der Ansicht, dass nur staatliche Intervention die Entwicklung von immer leistungsfähigeren und potenziell tödlichen KI-Systemen stoppen kann.
