Le PDG d'Anthropic, Dario Amodei, a publiquement exprimé sa préoccupation concernant le rythme accéléré du développement de l'Intelligence Artificielle. Lors de ses déclarations, il a averti que les avancées dans la capacité de construire la prochaine génération de systèmes d'IA se produisent de manière drastique.
Amodei s'est référé spécifiquement à la dynamique d'auto-amélioration des systèmes d'IA, avertissant que si cette tendance n'est pas contrôlée, la technologie pourrait dépasser la capacité humaine à comprendre et à contrôler ces systèmes.
Le responsable a défendu la nécessité d'un meilleur contrôle sur le développement de l'Intelligence Artificielle, suggérant qu'il est nécessaire de ralentir le rythme actuel des avancées technologiques pour garantir que l'humanité parvient à maintenir la supervision sur ces technologies.
La position d'Amodei survient dans un contexte de débat croissant sur les risques associés au développement accéléré de l'IA et la nécessité d'établir des mécanismes de gouvernance adaptés à cette technologie.
