Anthropic ist in diesem Jahr eingeschritten, um fünf potenzielle Operationen zu stoppen, bei denen Wissenschaftler die fortschrittlichsten KI-Modelle des amerikanischen Unternehmens für Forschungen nutzten, die zur Entwicklung biologischer Waffen beitragen könnten. Die Fälle werden im Bericht „Detecting and countering misuse of AI" beschrieben, der vor der zunehmenden Leistungsfähigkeit der KI-Modelle im Bereich der wissenschaftlichen Forschung und vor dem Risiko warnt, dass diese für böswillige Zwecke eingesetzt werden könnten.
Laut Anthropic befanden sich die älteren Modelle wie Claude Opus 4 und Claude Sonnet 4.5, die 2025 veröffentlicht wurden, „weit unter" dem Fähigkeitsniveau, ab dem sie einem anspruchsvollen Nutzer erhebliche Hilfe bei der Durchführung gefährlicher biologischer Forschung leisten könnten. Die Situation hat sich mit den neueren Modellen geändert, die in der Lage sind, komplexe Aufgaben der wissenschaftlichen Forschung zu unterstützen. Vorsichtshalber hat das Unternehmen die neueren Modelle, einschließlich Claude Fable 5, mit stärkeren Schutzmaßnahmen auf den Markt gebracht und den Zugang zu einer breiteren Palette von Anfragen im Zusammenhang mit Forschung mit doppeltem Verwendungszweck eingeschränkt.
Das Unternehmen identifizierte fünf konkrete Fälle. In einem Fall umging eine Wiederverkaufsplattform die regionalen Sperren, um die Modelle Virologen zur Verfügung zu stellen, die an einem von einem Staat finanzierten Projekt zur Erforschung des Chikungunya-Virus beteiligt waren. In einem anderen Fall nutzte ein Forscher Claude über mehrere Wochen, um Experimente zur Anpassung der Vogelgrippe an Säugetiere zu planen. Ein dritter Fall betraf einen Vermittlungsdienst, über den Opus 5 einen vollständigen Antrag auf ein Forschungsstipendium zur Immunevasion von Orthopoxviren ausarbeitete. In den beiden verbleibenden Fällen nutzte ein vom Staat unterstützter Forscher die Modelle, um einen Atlas von Giftpeptiden und ein generatives Optimierungssystem für Moleküle zu erstellen, und ein anderer Forscher griff auf Claude zurück, um Toxine im Rahmen eines nationalen Programms computerbasiert neu zu gestalten.
Anthropic betont, dass die Fälle nicht den Schluss zulassen, dass die Fors
