Anthropic bloque les tentatives possibles de création d'armes biologiques via des modèles IA

Anthropic a identifié et bloqué des chercheurs qui ont utilisé ses modèles d'intelligence artificielle pour soutenir des travaux de recherche biologique potentiellement dangereux. L'entreprise n'a pas pu déterminer si les recherches seraient utilisées pour le bien ou pour le mal, mais a choisi de bloquer l'accès comme mesure de précaution. Cette décision s'inscrit dans un contexte de préoccupation croissante concernant l'utilisation abusive potentielle de la technologie d'intelligence artificielle dans le développement d'armes biologiques. Anthropic a pris cette mesure pour éviter que ses modèles soient utilisés à des fins nuisibles, en donnant la priorité à la sécurité même sans pouvoir confirmer de mauvaises intentions de la part des chercheurs bloqués.