Sam Altman, direttore esecutivo di OpenAI, azienda responsabile di ChatGPT, ha messo pubblicamente in guardia su due modi in cui l'intelligenza artificiale potrebbe andare "molto male". Il dirigente ha condiviso le sue preoccupazioni attraverso una pubblicazione sui social media.
La prima minaccia identificata da Altman è la possibilità di perdere il controllo sul futuro dell'IA. Ha classificato questo scenario come "inaccettabile" e ha difeso che l'intelligenza artificiale deve "servire sempre le persone". Per questo, Altman ha sottolineato la necessità che le tecniche di allineamento e sicurezza siano sempre in anticipo rispetto alle capacità dei modelli di IA.
La seconda preoccupazione di Altman riguarda l'eccessiva concentrazione di potere. Ha messo in guardia contro uno scenario in cui il potere dell'IA sarebbe nelle mani di "una singola persona o azienda", il che potrebbe essere usato per "imporre la propria visione del mondo a tutti gli altri", generando risultati che Altman ha descritto come "distopici".
Secondo Altman, evitare queste due minacce richiede di seguire un "percorso intermedio stretto". Ha citato esempi concreti, menzionando che un paese potrebbe acquisire troppo potere con la tecnologia, così come un laboratorio di IA potrebbe finire per accumulare un controllo eccessivo.
