Anthropic a annoncé ce jeudi qu'elle avait bloqué des tentatives de production d'armes biologiques. L'entreprise d'intelligence artificielle a identifié des demandes suspectes via ses systèmes et a agi pour empêcher que la technologie soit utilisée à des fins nuisibles.
L'entreprise a interrompu l'échange d'informations lorsqu'elle n'a pas réussi à déterminer la légitimité des recherches soumises. Devant l'impossibilité de vérifier si les demandes avaient des objectifs légitimes, Anthropic a choisi une approche de précaution maximale.
Les profils associés aux enquêtes ont été bannis des systèmes de l'entreprise. Anthropic n'a pas précisé combien de profils ont été affectés ni combien de tentatives ont été bloquées.
Cette mesure survient dans un contexte de préoccupation croissante concernant l'utilisation abusive des systèmes d'intelligence artificielle. Anthropic, connue pour le développement de l'assistant Claude, a ainsi renforcé son engagement envers la sécurité et l'éthique dans l'utilisation de sa technologie.
