Paul Christiano, consulente tecnologico del governo degli Stati Uniti sotto l'amministrazione Trump, ha affermato che OpenAI non è sulla strada giusta per ridurre i rischi di perdita di controllo "catastrofica" a un livello accettabile. Christiano ha avvertito che esiste un rischio significativo che la rapida accelerazione delle capacità dell'intelligenza artificiale porti a una perdita di controllo irreversibile in un futuro molto vicino.
La dichiarazione avviene in mezzo a una crescente preoccupazione pubblica e politica che le intelligenze artificiali superavanzate possano un giorno rappresentare una minaccia esistenziale per l'umanità. Christiano ha affermato di non credere che l'industria dell'IA in generale, inclusa OpenAI, sia attualmente sulla strada giusta per ridurre questo rischio a un livello accettabile.
Christiano in precedenza era responsabile dell'allineamento dei modelli presso OpenAI, azienda con sede a San Francisco. Ha rilasciato la dichiarazione al momento dell'ingresso nel consiglio della fondazione senza scopo di lucro dell'azienda e farà anche parte del comitato responsabile della governance delle pratiche di sicurezza in tutta l'organizzazione.
