Vários chatbots de inteligência artificial, incluindo o ChatGPT e o Claude, estão reproduzindo informações provenientes de meios de comunicação russos que são considerados instrumentos de desinformação do Kremlin. Essa situação permite que conteúdos falsos ou manipulados cheguem a um público mais amplo através dessas plataformas de IA.
Os meios de comunicação russos em questão são vistos como ferramentas de desinformação controladas pelo governo russo. Ao serem utilizados como fonte por sistemas de IA, esses conteúdos podem ser apresentados aos usuários como informação confiável, quando na realidade fazem parte de campanhas de influência.
Essa descoberta gera preocupações sobre a capacidade dos chatbots de IA para distinguir fontes confiáveis de fontes que propagam desinformação. Os sistemas podem não ter mecanismos suficientes para filtrar ou verificar a origem e a credibilidade das informações que reproduzem.
O fenômeno evidencia os desafios que a IA enfrenta no combate à propagação de desinformação, especialmente quando esta provém de fontes coordenadas por Estados. Os chatbots, ao agregarem informação de múltiplas fontes, podem involuntariamente amplificar narrativas falsas ou tendenciosas.
