Plusieurs chatbots d'intelligence artificielle, dont ChatGPT et Claude, reproduisent des informations provenant de médias russes qui sont considérés comme des instruments de désinformation du Kremlin. Cette situation permet à des contenus faux ou manipulés d'atteindre un public plus large via ces plateformes d'IA.
Les médias russes en question sont considérés comme des outils de désinformation contrôlés par le gouvernement russe. En étant utilisés comme source par les systèmes d'IA, ces contenus peuvent être présentés aux utilisateurs comme des informations fiables, alors qu'ils font en réalité partie de campagnes d'influence.
Cette découverte soulève des préoccupations concernant la capacité des chatbots d'IA à distinguer les sources fiables des sources qui propagent de la désinformation. Les systèmes peuvent ne pas disposer de mécanismes suffisants pour filtrer ou vérifier l'origine et la crédibilité des informations qu'ils reproduisent.
Ce phénomène met en évidence les défis auxquels l'IA est confrontée dans la lutte contre la propagation de la désinformation, en particulier lorsque celle-ci provient de sources coordonnées par des États. Les chatbots, en agrégeant des informations de multiples sources, peuvent involontairement amplifier des narrations fausses ou biaisées.
