La entreprise technologique Anthropic a annoncé avoir détecté et interrompu des campagnes de désinformation et d'utilisation malveillante de l'intelligence artificielle menées par la Russie et la Chine. L'entreprise a publié un rapport où elle documente ces activités et les efforts pour les arrêter.
Le rapport d'Anthropic révèle également l'existence de recherches menées sur le modèle de langage Claude par un laboratoire militaire. Ces recherches auraient exploré des façons de rendre le virus du chikungunya plus transmissible.
L'entreprise a déclaré avoir identifié et bloqué plusieurs tentatives d'utilisation abusive de ses technologies à des fins de désinformation et pour la recherche d'agents biologiques. Le document souligne les risques associés à l'utilisation de l'IA dans des contextes de sécurité et de santé publique.
Ce rapport survient dans un contexte de préoccupation croissante concernant les applications malveillantes de l'intelligence artificielle, particulièrement de la part d'acteurs étatiques. Anthropic a souligné l'importance de surveiller et contrôler l'accès à ses outils pour prévenir les abus.
