Plusieurs incidents impliquant des systèmes d'intelligence artificielle ont révélé de nouvelles capacités et des failles de sécurité qui ont provoqué un changement de position parmi les dirigeants des entreprises qui développent ces technologies. Pour la première fois, des figures de premier plan du secteur défendent publiquement qu'il est nécessaire de ralentir le rythme de développement de l'IA.
Parmi les préoccupations mises en avant figurent les cyberattaques autonomes perpétrées au moyen de systèmes d'IA, qui ont démontré un niveau de sophistication sans précédent. Ces incidents ont montré comment la technologie peut être weaponisée de façons qui échappent au contrôle de ses créateurs.
Les alertes apocalyptiques lancées par des spécialistes et par les entreprises elles-mêmes du secteur surviennent dans un contexte d'exposition croissante des vulnérabilités. Les systèmes d'IA ont révélé des capacités inattendues qui soulèvent des questions sur les risques existentiels associés à leur développement accéléré.
Ce moment marque une rupture avec la posture antérieure des grandes entreprises technologiques, qui jusqu'ici avaient favorisé l'avancement rapide de l'IA sans restrictions significatives. La convergence des incidents de sécurité et des avertissements concernant les dangers de la technologie non régulée aurait été ce qui a forcé les géants du secteur à modifier leur discours et à demander un frein au développement.
