Mehrere KI-Chatbots, darunter ChatGPT und Claude, reproduzieren Informationen aus russischen Medien, die als Instrumente der Kreml-Desinformation betrachtet werden. Diese Situation ermöglicht es, dass falsche oder manipulierte Inhalte über diese KI-Plattformen ein breiteres Publikum erreichen.
Die betreffenden russischen Medien werden als vom russischen Staat kontrollierte Desinformationsinstrumente angesehen. Wenn sie von KI-Systemen als Quelle genutzt werden, können diese Inhalte den Nutzern als zuverlässige Informationen präsentiert werden, obwohl sie tatsächlich Teil von Einflusskampagnen sind.
Diese Entdeckung wirft Bedenken auf regarding die Fähigkeit von KI-Chatbots, zuverlässige Quellen von Quellen zu unterscheiden, die Desinformation verbreiten. Die Systeme verfügen möglicherweise nicht über ausreichende Mechanismen, um die Herkunft und Glaubwürdigkeit der von ihnen reproduzierten Informationen zu filtern oder zu überprüfen.
Das Phänomen verdeutlicht die Herausforderungen, mit denen KI bei der Bekämpfung der Verbreitung von Desinformation konfrontiert ist, insbesondere wenn diese von staatlich koordinierten Quellen stammt. Die Chatbots können durch die Aggregation von Informationen aus mehreren Quellen unbeabsichtigt falsche oder voreingenommene Narrative verstärken.
