Jacob Coxon, ehemaliger Forscher bei Anthropic, warnte öffentlich vor einer potenziellen „Katastrophe" durch künstliche Intelligenz und erklärte, dass Führungskräfte von KI-Unternehmen die katastrophalen Risiken privat befürchten, aber trotzdem weiterhin in die Entwicklung der Technologie investieren. Coxon verließ das Unternehmen nach dem, was er als einen von Versagen bei der Eindämmung von KI-Systemen geprägten Sommer beschrieb.
Der Forscher kritisierte die Vorgehensweise der Technologieunternehmen und deutete darauf hin, dass ein Widerspruch besteht zwischen dem, was die Branchenführer intern über die Gefahren der KI anerkennen, und dem, was sie öffentlich tun. Sein Ausscheiden bei Anthropic erfolgt in einer Zeit zunehmender Prüfung der Sicherheit immer leistungsfähigerer KI-Systeme.
Der Artikel erscheint auch im Kontext einer neuen Initiative im US-Kongress, die eine vollständige Prohibition der Entwicklung superintelligenter KI anstrebt. Dieser Gesetzesvorschlag spiegelt die wachsenden Befürchtungen einiger Experten und Gesetzgeber hinsichtlich der Zukunft der Technologie wider.
Die Situation verdeutlicht die zunehmenden Spannungen innerhalb der KI-Industrie, wo einige Fachleute beginnen, das Schweigen über die Risiken zu brechen, die sie im beschleunigten Entwicklung immer raffinierterer Systeme sehen.
