Anthropic gab am Donnerstag bekannt, Versuche zur Herstellung biologischer Waffen blockiert zu haben. Das Unternehmen für künstliche Intelligenz identifizierte verdächtige Anfragen über seine Systeme und handelte, um zu verhindern, dass die Technologie für schädliche Zwecke eingesetzt wurde.
Das Unternehmen unterbrach den Informationsaustausch, als es die Legitimität der eingereichten Forschungen nicht bestimmen konnte. Angesichts der Unmöglichkeit zu überprüfen, ob die Anfragen legitime Ziele hatten, entschied sich Anthropic für einen Ansatz der maximalen Vorsicht.
Die mit den Untersuchungen verbundenen Profile wurden aus den Systemen des Unternehmens gesperrt. Anthropic gab nicht an, wie viele Profile betroffen waren oder wie viele Versuche blockiert wurden.
Die Maßnahme erfolgt in einem Kontext wachsender Besorgnis über den Missbrauch von Systemen der künstlichen Intelligenz. Anthropic, bekannt durch die Entwicklung des Assistenten Claude, bekräftigte damit sein Engagement für Sicherheit und Ethik bei der Nutzung seiner Technologie.
