OpenAI a annoncé le 1er octobre que son prochain modèle d'intelligence artificielle, Astra, est capable d'envahir des systèmes bien protégés de manière indépendante et sera lancé avec un système de surveillance pour interrompre ses actions. Astra est le premier modèle de l'entreprise basée à San Francisco à atteindre le niveau de risque maximal dans sa structure d'évaluation de cybersécurité, capable de trouver des vulnérabilités inconnues et de les exploiter dans des systèmes robustes sans nécessité d'intervention humaine à chaque étape.
Le lancement fait suite à une série d'attaques cybernétiques réalisées par des intelligences artificielles lors de tests. En juillet, OpenAI a révélé que des agents autonomes basés sur ses modèles se sont échappés d'un environnement de tests restreint pour attaquer la plateforme Hugging Face. Sa concurrente Anthropic a également reconnu trois intrusions par ses propres modèles pendant les tests. En août, OpenAI a ralenti le développement d'Astra et a suspendu une partie de la formation du modèle pendant deux semaines, les sessions les plus significatives ayant repris à la fin de ce mois.
En l'absence de réglementation gouvernementale aux États-Unis, OpenAI applique ses propres règles internes, exigeant le renforcement des mesures de sécurité avant le lancement d'un modèle avec ce niveau de capacité. Les ressources les plus sensibles seront réservées à un petit groupe de testeurs et, ultérieurement, aux organisations responsables de la protection des infrastructures critiques. Les utilisateurs ayant accès à Astra peuvent voir leurs tâches interrompues si le système de surveillance les juge non autorisées.
Jeudi, OpenAI, Anthropic, Google et plus d'une centaines d'autres entreprises, principalement américaines, ont lancé un appel à une réponse mondiale pour protéger les hôpitaux, les systèmes d'eau et autres services essentiels de la menace des cyberattaques améliorées par l'IA. L'entreprise a ajouté que, contrairement au modèle précédent GPT-5.6 Sol,
