Anthropic erkennt an, dass Kunden Claude verwendet haben, um zu versuchen, biologische Waffen zu entwickeln. „Wir betreten sehr gefährliches Terrain"

Anthropic hat öffentlich anerkannt, dass einige seiner Kunden den KI-Assistenten Claude verwendet haben, um zu versuchen, biologische Waffen zu entwickeln. Das Unternehmen räumt ein, dass diese Situation eine ernsthafte Bedrohung darstellt und dass man „sehr gefährliches Terrain betritt". Die Enthüllung erfolgt vor dem Hintergrund wachsender Besorgnis über den Missbrauch von KI-Technologien für illegale oder extrem gefährliche Aktivitäten. Das KI-Unternehmen sieht sich nun schwierigen Fragen gegenüber, wie verhindert werden kann, dass seine Werkzeuge für Zwecke der Massenvernichtung eingesetzt werden. Der Artikel erscheint im Rahmen einer umfassenderen Analyse über die Risiken, die mit der Entwicklung und Anwendung fortgeschrittener KI-Systeme verbunden sind.