Das Unternehmen Anthropic identifizierte mindestens fünf Projekte, bei denen seine Künstliche-Intelligenz-Modelle in Forschungsarbeiten verwendet wurden, die die Entwicklung biologischer Waffen unterstützen könnten. Diese Entdeckung veranlasste das Unternehmen, die Nutzung seiner Modelle unter diesen Umständen zu blockieren.
Einige dieser Projekte wiesen ein hohes Pandemiepotenzial auf, was bedeutet, dass die betreffende Forschung letztendlich die Erstellung biologischer Wirkstoffe ermöglichen könnte, die in großem Maßstab Pandemien verursachen können.
Anthropic beschloss, Einschränkungen zu implementieren, um zu verhindern, dass seine KI-Modelle für Forschungen dieser Art verwendet werden, und stärkt damit die bestehenden Sicherheitskontrollen im Unternehmen.
Diese Situation ergibt sich vor dem Hintergrund wachsender Besorgnis über den Missbrauch von Künstliche-Intelligenz-Technologien bei der Entwicklung von Massenvernichtungswaffen und anderen bösartigen Zwecken.
