OpenAI ha annunciato martedì il lancio del suo prossimo modello di intelligenza artificiale, denominato Astra. Questo modello rappresenta un avanzamento significativo nella capacità delle IA di eseguire operazioni autonome.
Il modello Astra è capace di violare sistemi ben protetti in modo indipendente, dimostrando un livello di sofisticazione tecnica che solleva preoccupazioni sulla sicurezza informatica. Questa capacità posiziona il nuovo modello in una categoria diversa dai precedenti.
Tuttavia, l'azienda ha rivelato che l'Astra sarà lanciato accompagnato da un sistema di monitoraggio dedicato. Questo sistema avrà la funzione di interrompere le azioni del modello qualora queste superino certi limiti definiti, cercando di equilibrare l'innovazione con la sicurezza.
La decisione di OpenAI di includere questo meccanismo di sicurezza riflette la crescente attenzione dell'industria tecnologica ai rischi associati a sistemi di IA sempre più autonomi e capaci di eseguire compiti sensibili.
