Anthropic, l'entreprise créatrice de l'assistant d'intelligence artificielle Claude, a empêché cette année au moins cinq projets de recherche qui pouvaient être liés au développement d'armes biologiques. Certains de ces projets avaient un fort potentiel pandémique.
L'entreprise a pris cette décision dans le cadre de ses politiques de sécurité et d'utilisation responsable de l'IA. Anthropic a mis en place des mesures pour éviter que sa technologie soit utilisée à des fins préjudiciables à l'humanité.
Le blocage de ces projets soulève des questions sur le rôle des entreprises d'IA dans la prévention de l'utilisation abusive de leurs technologies. La surveillance de la recherche potentiellement dangereuse est devenue une priorité pour Anthropic.
Cette situation se produit dans un contexte de préoccupation croissante concernant les risques associés au développement d'armes biologiques et le rôle que l'intelligence artificielle peut jouer dans ce domaine.
