Biosicherheits- und KI-Experten haben zunehmend Besorgnis über den Einsatz von KI-Modellen zur Entwicklung biologischer Waffen geäußert. Im April warnten Forscher, dass es beunruhigend einfach sei, von Chatbots Anleitungen zu erhalten, wie man Krankheitserreger gefährlicher machen kann, was rote Fahnen bezüglich der Risiken dieser Technologie aufwarf.
Im Juni unterzeichneten Wissenschaftler und Führungskräfte von KI-Unternehmen einen offenen Brief, in dem sie neue Kontrollen bei der DNA-Herstellung forderten. Das Hauptargument ist, dass KI die Entwicklung von Toxinen und Viren erheblich beschleunigen und die Erschaffung biologischer Waffen erleichtern kann.
Im August berichteten Wissenschaftler, dass sie künstliche Intelligenz verwendet haben, um Viren zu schaffen, die in der Natur nicht vorkommen, und demonstrierten damit in der Praxis das Potenzial dieser Technologie zur Erzeugung neuer Krankheitserreger.
Am Donnerstag kündigte Anthropic, ein KI-Entwicklungsunternehmen, an, dass es mehrere Versuche blockiert habe, seine Modelle von Personen zu nutzen, die möglicherweise versuchten, Krankheitserreger in Waffen umzuwandeln, was zeigt, dass diese Bedrohungen nicht nur theoretischer Natur sind.
