L'entreprise Anthropic a identifié au moins cinq projets dans lesquels ses modèles d'intelligence artificielle ont été utilisés dans le cadre de recherches qui pourraient soutenir le développement d'armes biologiques. Cette découverte a conduit l'entreprise à bloquer l'utilisation de ses modèles dans ces circonstances.
Certains de ces projets présentaient un fort potentiel pandémique, ce qui signifie que les recherches en question auraient pu éventuellement faciliter la création d'agents biologiques capables de provoquer des pandémies à grande échelle.
Anthropic a décidé de mettre en place des restrictions pour empêcher que ses modèles d'IA ne soient utilisés dans des recherches de cette nature, renforçant ainsi les contrôles de sécurité existants au sein de l'entreprise.
Cette situation survient dans un contexte de préoccupations croissantes concernant l'utilisation abusive des technologies d'intelligence artificielle dans le développement d'armes de destruction massive et d'autres fins malveillantes.
