Sam Altman, directeur exécutif de l'OpenAI, entreprise responsable du ChatGPT, a publiquement alerté sur deux formes par lesquelles l'intelligence artificielle pourrait mal tourner. Le dirigeant a partagé ses préoccupations à travers une publication sur les réseaux sociaux.
La première menace identifiée par Altman est la possibilité de perdre le contrôle sur l'avenir de l'IA. Il a classé ce scénario comme « inacceptable » et a défendu que l'intelligence artificielle doit « toujours servir les personnes ». Pour cela, Altman a souligné la nécessité que les techniques d'alignement et de sécurité soient toujours à l'avance des capacités des modèles d'IA.
La deuxième préoccupation d'Altman concerne la concentration excessive du pouvoir. Il a mis en garde contre un scénario où le pouvoir de l'IA serait entre les mains d'« une seule personne ou entreprise », ce qui pourrait être utilisé pour « imposer sa vision du monde à tous les autres », générant des résultats qu'Altman a décrits comme « dystopiques ».
Selon Altman, éviter ces deux menaces exige de suivre un « chemin intermédiaire étroit ». Il a donné des exemples concrets, mentionnant qu'un pays pourrait gagner trop de pouvoir avec la technologie, tout comme un laboratoire d'IA pourrait finir par accumuler un contrôle excessif.
