Vários chatbots de inteligência artificial, incluindo o ChatGPT e o Claude, estão a reproduzir informações provenientes de meios de comunicação russos que são considerados instrumentos de desinformação do Kremlin. Esta situação permite que conteúdos falsos ou manipulados cheguem a um público mais amplo através destas plataformas de IA.
Os meios de comunicação russos em causa são vistos como ferramentas de desinformação controladas pelo governo russo. Ao serem utilizados como fonte por sistemas de IA, estes conteúdos podem ser apresentados aos utilizadores como informação fiável, quando na realidade são parte de campanhas de influência.
Esta descoberta levanta preocupações sobre a capacidade dos chatbots de IA para distinguir fontes fiáveis de fontes que propagam desinformação. Os sistemas podem não ter mecanismos suficientes para filtrar ou verificar a origem e a credibilidade das informações que reproduzem.
O fenómeno evidencia os desafios que a IA enfrenta no combate à propagação de desinformação, especialmente quando esta provém de fontes coordenadas por Estados. Os chatbots, ao agregarem informação de múltiplas fontes, podem involuntariamente amplificar narrativas falsas ou tendenciosas.
