KI, die heilt, kann auch beim Töten helfen
Jahrelang gehörte die Gefahr, dass künstliche Intelligenz die Entwicklung biologischer Waffen erleichtert, vor allem ins Reich der alarmistischen Vorhersagen. Das ist nun nicht mehr der Fall. Eines der fortschrittlichsten Unternehmen der Branche, Anthropic, hat enthüllt, dass es fünf Nutzungen seiner Modelle blockiert hat, die mit hochriskanten biologischen Forschungsprojekten zusammenhängen. Es konnte nicht nachgewiesen werden, dass die Beteiligten Schaden anrichten wollten, aber es wurden Versuche identifiziert, auf sensible Informationen über potenziell tödliche Krankheitserreger zuzugreifen.
Anthropic ist eines der führenden Unternehmen bei der Entwicklung fortschrittlicher Sprachmodelle und konkurriert direkt mit OpenAI und Google im KI-Wettlauf. Die Enthüllung erfolgt zu einem Zeitpunkt, an dem der technologische Wettbewerb zwischen großen Unternehmen den Druck erhöht, schnell zu innovieren – oft auf Kosten strengerer Sicherheitsmaßnahmen.
Der Fall deckt eine grundlegende Spannung in der Branche auf: Je leistungsfähiger KI wird, desto größer ist das Potenzial für Missbrauch. Die Fähigkeit, synthetischen biologischen Code zu generieren, gefährliche Proteine zu modellieren oder tödliche chemische Formulierungen vorzuschlagen, stellt ein beispielloses Risiko dar. Experten warnen, dass die aktuellen Schutzmechanismen angesichts böswilliger Akteure, die entschlossen sind, sie zu umgehen, möglicherweise unzureichend sein könnten.
Die Regulierungsbehörden stehen nun vor der Herausforderung, eine Technologie zu begleiten, die sich schneller weiterentwickelt, als die Gesetzgebung reagieren kann. Ohne klare rechtliche Rahmenbedingungen und internationale Koordination bleibt der Sektor im Wesentlichen auf die Selbstregulierung der Unternehmen angewiesen, was viele Fragen über das tatsächliche Ausmaß dieses Problems offen lässt.
