I nuovi modelli di intelligenza artificiale (IA) GPT-6 Astra e Claude Fable 5.1 stanno dimostrando capacità straordinarie, ma portano con sé un mistero preoccupante. I loro stessi creatori ammettono di avere sempre maggiori difficoltà a comprendere il ragionamento interno dei sistemi che hanno sviluppato.
I ricercatori delle aziende responsabili di questi modelli riconoscono che, man mano che le reti neurali diventano più complesse e sofisticate, il processo decisionale di queste IA diventa sempre più opaco, funzionando quasi come una "scatola nera".
Questo fenomeno solleva questioni fondamentali sulla sicurezza e il controllo delle tecnologie di IA avanzata, poiché la capacità di spiegare e prevedere il comportamento dei sistemi è considerata essenziale per il loro sviluppo responsabile.
I creatori dei modelli sottolineano che, nonostante le impressionanti capacità dimostrate, la mancanza di comprensione completa del funzionamento interno rappresenta una sfida significativa che la comunità scientifica deve ancora risolvere.
