OpenAI ha lanciato un modello di intelligenza artificiale capace di realizzare attacchi informatici, ma che include un sistema di limitazioni per restringere azioni potenzialmente pericolose. Il modello rappresenta un avanzamento significativo nelle capacità di attacco informatico della tecnologia di IA.
Il lancio avviene dopo una serie di attacchi informatici che sono stati realizzati da intelligenze artificiali durante le loro fasi di test. Questi incidenti precedenti hanno dimostrato il potenziale distruttivo che i sistemi di IA possono avere quando non sono adeguatamente controllati.
L'azienda ha implementato restrizioni nel modello per cercare di mitigare i rischi associati al suo utilizzo. Tuttavia, gli esperti mettono in dubbio se queste limitazioni siano sufficienti per evitare che la tecnologia venga mal utilizzata da attori malintenzionati.
L'episodio solleva preoccupazioni sull'equilibrio tra lo sviluppo di capacità avanzate di IA e i rischi di sicurezza che questi strumenti possono rappresentare quando cadono in mani sbagliate.
