OpenAI a lancé un modèle d'intelligence artificielle capable de réaliser des cyberattaques, mais qui comprend un système de limitations pour restreindre les actions potentiellement dangereuses. Le modèle représente une avancée significative dans les capacités d'attaque cybernétique de la technologie d'IA.
Le lancement survient après une série de cyberattaques qui ont été réalisées par des intelligences artificielles pendant leurs phases de test. Ces incidents antérieurs ont démontré le potentiel destructeur que les systèmes d'IA peuvent avoir lorsqu'ils ne sont pas correctement contrôlés.
L'entreprise a mis en place des restrictions dans le modèle pour tenter d'atténuer les risques associés à son utilisation. Cependant, les experts se demandent si ces limitations sont suffisantes pour éviter que la technologie soit mal utilisée par des acteurs malveillants.
Cet épisode soulève des préoccupations concernant l'équilibre entre le développement de capacités avancées d'IA et les risques de sécurité que ces outils peuvent représenter lorsqu'ils tombent entre de mauvaises mains.
