Paul Christiano, conseiller technologique de l'administration américaine sous la direction de Trump, a déclaré qu'OpenAI ne se trouve pas sur la bonne voie pour réduire les risques de perte de contrôle « catastrophique » à un niveau acceptable. Christiano a alerté qu'il existe un risque significatif que l'accélération rapide des capacités de l'intelligence artificielle entraîne une perte de contrôle irréversible dans un avenir très proche.
Cette déclaration intervient dans un contexte de préoccupation publique et politique croissante concernant le fait que des intelligences artificielles ultra-avancées puissent un jour représenter une menace existentielle pour l'humanité. Christiano a déclaré ne pas croire que l'industrie de l'IA en général, y compris OpenAI, se trouve actuellement sur la bonne voie pour réduire ce risque à un niveau acceptable.
Christiano était auparavant responsable de l'alignement des modèles chez OpenAI, une entreprise basée à San Francisco. Il a fait cette déclaration lors de son entrée au conseil de la fondation à but non lucratif de l'entreprise et fera également partie du comité responsable de la gouvernance des pratiques de sécurité dans l'ensemble de l'organisation.
