OpenAI a annoncé mardi le lancement de son prochain modèle d'intelligence artificielle, dénommé Astra. Ce modèle représente une avancée significative dans la capacité des IA à effectuer des opérations autonomes.
Le modèle Astra est capable d'envahir des systèmes bien protégés de manière indépendante, démontrant un niveau de sophistication technique qui soulève des préoccupations concernant la cybersécurité. Cette capacité place le nouveau modèle à un niveau différent des précédents.
Cependant, l'entreprise a révélé que l'Astra sera lancé accompagné d'un système de surveillance dédié. Ce système aura la fonction d'interrompre les actions du modèle si elles dépassent certaines limites définies, cherchant à équilibrer l'innovation avec la sécurité.
La décision d'OpenAI d'inclure ce mécanisme de sécurité reflète l'attention croissante de l'industrie technologique pour les risques associés aux systèmes d'IA de plus en plus autonomes et capables d'effectuer des tâches sensibles.
