OpenAI a annoncé mardi qu'elle développe un nouveau modèle d'intelligence artificielle appelé Astra. Ce modèle représente une avancée significative dans les capacités des IA, étant capable d'envahir des systèmes bien protégés de manière indépendante, sans nécessité d'intervention humaine.
Le modèle Astra a été développé par OpenAI, l'entreprise de référence dans le secteur de l'intelligence artificielle. Cette compagnie investit de plus en plus dans le développement de systèmes de plus en plus sophistiqués, et Astra apparaît comme une démonstration des capacités avancées que ces technologies peuvent atteindre.
Malgré sa capacité à réaliser des cyberattaques, OpenAI a révélé que le modèle sera lancé accompagné d'un système de surveillance. Ce système a été conçu pour surveiller les actions du modèle et interrompre toute activité suspecte ou non autorisée en temps réel.
La décision de lancer un modèle avec des capacités offensives, mais avec des limitations incorporées, soulève des questions sur l'équilibre entre l'innovation technologique et la sécurité. OpenAI a choisi d'implémenter des contrôles de sécurité avant de mettre Astra à disposition du public, cherchant à atténuer les risques potentiels associés à son utilisation.
