Des experts impliqués dans le développement de l'intelligence artificielle considèrent qu'il est possible que les futurs systèmes provoquent une catastrophe existentielle avant la fin de la décennie, potentiellement en moins de cinq ans. Ces chercheurs alertent sur les risques associés à l'avancement rapide de cette technologie sans contrôles appropriés.
Parmi les scénarios les plus préoccupants figurent l'utilisation de l'IA pour développer des armes biologiques et le potentiel de la technologie pour déclencher des conflits nucleaires. Les experts craignent que des systèmes d'IA de plus en plus puissants ne soient exploités par des acteurs malveillants ou que des défaillances des systèmes entraînent des décisions catastrophiques.
Les avertissements surviennent dans un contexte de course technologique mondiale, où les entreprises et les nations rivalisent pour développer des systèmes d'IA de plus en plus avancés. Beaucoup de ces experts défendent la nécessité de mécanismes de sécurité et de réglementation plus rigoureux pour éviter des conséquences irréversibles.
Le débat sur les risques existentiels de l'IA gagne en intensité au sein de la communauté scientifique et technologique, avec des appels à ce que la sécurité soit priorisée par rapport au rythme de développement. Certains chercheurs proposent des pauses ou des limites temporaires sur l'entraînement de systèmes plus puissants jusqu'à ce que des garanties appropriées soient mises en place.
