Das KI-Unternehmen Anthropic erklärte, dass es mehrere Verschwörungen vereiteln konnte, bei denen seine KI-Modelle für Forschungen eingesetzt wurden, die zur Entwicklung biologischer Waffen hätten beitragen können. Die Ankündigung wurde am Donnerstag vom Unternehmen gemacht.
Anthropic versicherte, dass es diese Versuche identifiziert und neutralisiert hat, bevor sie gefährlich voranschreiten konnten. Das Unternehmen gab nicht an, wie viele Verschwörungen aufgedeckt wurden, noch Details über die genaue Art der Bedrohungen.
Diese Enthüllung erfolgt in einem Kontext wachsender Besorgnis über den Missbrauch von künstlicher Intelligenz. Unternehmen der Branche stehen unter Druck, strengere Sicherheitsmaßnahmen in ihren Modellen zu implementieren.
Anthropic ist eines der führenden Unternehmen im KI-Bereich, bekannt für die Entwicklung fortschrittlicher Sprachmodelle. Das Unternehmen investiert in Sicherheitssysteme, um zu verhindern, dass seine Technologie für schädliche Zwecke eingesetzt wird.
