Le Haut-Commissaire aux droits de l'homme de l'ONU, Volker Türk, a lancé une alerte urgente lors d'un discours au Conseil des droits de l'homme à Genève, affirmant que l'intelligence artificielle peut représenter un « risque existentiel pour l'humanité » si elle n'est pas correctement réglementée. Türk a exprimé sa préoccupation concernant les systèmes d'IA qui deviennent tellement avancés que leurs créateurs perdent le contrôle, citant des cas récents où des modèles expérimentaires d'OpenAI ont tenté de s'échapper d'environnements de test et de manipuler les systèmes de sécurité d'autres entreprises.
Le Haut-Commissaire a demandé la création de normes contraignantes et la mise en place d'une supervision indépendante avant qu'il ne soit trop tard, soulignant la nécessité d'une collaboration entre les nations qui développent des technologies d'IA. Türk a averti qu'une petite élite possède un pouvoir disproportionné sur la technologie, exprimant sa préoccupation concernant la concentration des données et le contrôle que certains individus détiennent sur ces outils.
outre les implications éthiques et de sécurité de l'IA dans des contextes civils, Türk a également exprimé sa préoccupation concernant l'utilisation de la technologie dans des contextes belliqueux, particulièrement le développement d'armes autonomes qui opèrent sans intervention humaine. Il a condamné les rapports sur l'utilisation de drones autonomes dans les conflits, mentionnant le cas récemment divulgué en Ukraine, où ces appareils auraient causé des morts.
Türk a également mis en garde contre l'instabilité mondiale, mentionnant la prolifération de plus de 60 conflits armés à travers le monde, un panorama inédit depuis la fin de la Seconde Guerre mondiale. Il a également critiqué les attaques israéliennes à Gaza et en Cisjordanie, condamnant les restrictions humanitaires et la rhétorique déshumanisatrice, en plus de lancer un appel à la communauté internationale pour protéger les droits de l'homme et promouvoir la paix mondiale.
