Un chercheur d'Anthropic, l'entreprise responsable de l'assistant d'IA Claude, a considéré que l'évolution de l'intelligence artificielle peut représenter "plus de 10% de risque d'extinction humaine". Cette évaluation a été faite dans un contexte de débat croissant sur les dangers associés au développement de systèmes d'IA de plus en plus avancés.
Selon le chercheur, l'intelligence artificielle qui existe actuellement représente un risque faible pour l'humanité. Cependant, ses préoccupations se concentrent sur l'avenir de la technologie et ce qui pourrait émerger avec la continuation de l'évolution de ces systèmes.
La position d'Anthropic s'inscrit dans un débat plus large dans l'industrie technologique, où diverses entreprises et chercheurs ont exprimé des préoccupations différentes concernant les risques de l'IA. Alors que certaines voix alertent sur des dangers existentiels, d'autres minimisent les risques des technologies actuelles.
Le chercheur a souligné que le problème ne réside pas dans l'état actuel de la technologie, mais dans les directions que le développement de l'IA pourrait prendre à l'avenir, suggérant que des mesures de sécurité et de régulation appropriées sont nécessaires pour atténuer les risques potentiels.
