Anthropic blockiert mögliche Versuche, biologische Waffen durch KI-Modelle zu erstellen

Expresso10. September 2026 um 22:47

Die Anthropic identifizierte und blockierte Forscher, die ihre Künstliche-Intelligenz-Modelle verwendeten, um potenziell gefährliche biologische Forschungsarbeiten zu unterstützen. Das Unternehmen konnte nicht feststellen, ob die Forschungsarbeiten für das Gute oder für das Böse verwendet werden würden, entschied sich jedoch, den Zugang als Vorsichtsmaßnahme zu blockieren. Diese Entscheidung erfolgt in einem Kontext wachsender Besorgnis über das mögliche Missbrauchspotenzial von Künstliche-Intelligenz-Technologie bei der Entwicklung biologischer Waffen. Anthropic ergriff diese Maßnahme, um zu verhindern, dass ihre Modelle für schädliche Zwecke verwendet werden, wobei sie die Sicherheit priorisierte, ohne böse Absichten seitens der blockierten Forscher bestätigen zu können.

Ein ehemaliger Forscher von OpenAI kündigt und warnt, dass wenn keine dringenden Maßnahmen ergriffen werden, künstliche Intelligenz innerhalb der nächsten 10 Jahre das Aussterben der Menschheit verursachen könnte. Der ehemalige Mitarbeiter behauptet, dass das Unternehmen und die Branche insgesamt nicht genug tun, um die existenziellen Risiken im Zusammenhang mit der beschleunigten Entwicklung von KI zu minimieren, und dass sein Ausscheiden genau auf das Fehlen von Maßnahmen angesichts dieser drohenden Gefahren zurückzuführen ist.

TVI Notícias10.09.26, 21:22

Anthropic asegura haber desarticulado complots que usaban su IA para desarrollar armas biológicas

KI-Nachrichten

Anthropic gibt an, Verschwörungen vereitelt zu haben, bei denen ihre KI zur Entwicklung biologischer Waffen eingesetzt wurde

Anthropic teilte am Donnerstag mit, dass sie mehrere Verschwörungen vereitelt hat, bei denen ihre KI-Modelle für Forschungen eingesetzt wurden, die zur Entwicklung biologischer Waffen hätten beitragen können. Das KI-Unternehmen gab bekannt, dass es Versuche des Missbrauchs seiner Technologie für Zwecke im Zusammenhang mit Massenvernichtungswaffen identifiziert und blockiert hat.

Vila Real

El Periódico Mediterráneo - General10.09.26, 20:29

Peritos acusam IA de 'brincar' com vidas: «Ninguém compreende estes modelos»

Foto von jmarti20 auf Pexels

KI-Nachrichten

Experten werfen KI vor, mit Menschenleben zu spielen: „Niemand versteht diese Modelle"

Experten warnen vor den Gefahren der Künstlichen Intelligenz, wobei Joana Amaral Dias die Intransparenz der KI-Modelle, den hemmungslosen kommerziellen Wettbewerb zwischen Unternehmen und das Fehlen einer wirksamen Regulierung hervorhebt. Die Expertin betont, dass niemand diese Systeme wirklich versteht, und wirft der Industrie vor, ohne angemessene Aufsicht und Kontrolle mit menschlichen Leben zu spielen.

Now10.09.26, 20:17

Autoaperfeiçoamento recursivo da IA pode acontecer num "futuro imediato". Aí entramos na fase da "possibilidade de todos morrermos"

Foto von VINCENT-RECLOUX auf Pexels

KI-Nachrichten

Rekursive KI-Selbstverbesserung kann in einer „nahen Zukunft" geschehen. Dann betreten wir die Phase der „Möglichkeit, dass wir alle sterben"

Evan Hubinger, ein Forscher, der von einem amerikanischen KI-Unternehmen zurücktritt, warnte in den sozialen Medien, dass KI in den kommenden Jahren alle Menschen töten könnte, durch einen Prozess rekursiver Selbstverbesserung, der in einer „nahen Zukunft" geschehen könnte. Diese Enthüllung folgt ähnlichen Bedenken, die von einem anderen Forscher, Jacob Coxon, geäußert wurden, der in einem Interview mit CNN International erklärte, warum wir uns alle um die unkontrollierte Entwicklung der Technologie sorgen sollten.

CNN Portugal10.09.26, 20:06

Anthropic blockiert mögliche Versuche, biologische Waffen durch KI-Modelle zu erstellen

Ähnliche Artikel

"Wir könnten in 10 Jahren nicht mehr am Leben sein": Ehemaliger OpenAI-Forscher gibt besorgniserregende Warnung aus

Anthropic gibt an, Verschwörungen vereitelt zu haben, bei denen ihre KI zur Entwicklung biologischer Waffen eingesetzt wurde

Experten werfen KI vor, mit Menschenleben zu spielen: „Niemand versteht diese Modelle"

Rekursive KI-Selbstverbesserung kann in einer „nahen Zukunft" geschehen. Dann betreten wir die Phase der „Möglichkeit, dass wir alle sterben"