L'entreprise Anthropic a révélé publiquement les usages nocifs qui ont été tentés avec son modèle d'intelligence artificielle, Claude. Parmi les demandes reçues figuraient des requêtes pour développer des armes biologiques, des systèmes de surveillance de masse et même des missiles.
La divulgation de ces tentatives survient à un moment où la sécurité de l'intelligence artificielle est au centre de l'attention à l'échelle mondiale. L'entreprise a décidé de partager ces informations pour démontrer les risques associés au développement de modèles d'IA puissants et la nécessité de mettre en place des mesures de sécurité rigorouses.
Anthropic investit considérablement dans la recherche sur la sécurité de l'IA, cherchant à garantir que ses modèles ne puissent pas être utilisés à des fins préjudiciables. Cette révélation fait partie d'un effort plus large de l'industrie technologique pour être plus transparente sur les défis auxquels elle est confrontée.
Les experts ont mis en garde que plus la technologie de l'IA progresse, plus le risque d'utilisation abusive augmente également. La discussion sur la réglementation et l'éthique dans l'intelligence artificielle a pris de l'ampleur dans les forums internationaux, où les gouvernements et les entreprises débattent de la manière d'équilibrer l'innovation avec la protection de la société.
