Несколько чат-ботов на основе искусственного интеллекта, включая ChatGPT и Claude, воспроизводят информацию из российских средств массовой информации, которые считаются инструментами дезинформации Кремля. Эта ситуация позволяет ложному или манипулятивному контенту достигать более широкой аудитории через эти платформы ИИ.
Упомянутые российские средства массовой информации рассматриваются как контролируемые российским правительством инструменты дезинформации. При использовании в качестве источника системами ИИ этот контент может быть представлен пользователям как достоверная информация, хотя в действительности он является частью информационных кампаний влияния.
Это открытие вызывает опасения относительно способности чат-ботов на основе ИИ отличать надёжные источники от источников, распространяющих дезинформацию. У систем может не быть достаточных механизмов для фильтрации или проверки происхождения и достоверности воспроизводимой ими информации.
Это явление наглядно демонстрирует проблемы, с которыми сталкивается ИИ в борьбе с распространением дезинформации, особенно когда она исходит от источников, координируемых государствами. Чат-боты, агрегируя информацию из множества источников, могут невольно усиливать ложные или предвзятые нарративы.
