Shyam Sankar, de l'entreprise technologique Palantir, a publiquement condamné l'idéologie de l'« altruisme efficace » qui, selon lui, a défini le mouvement pour la sécurité de l'intelligence artificielle. Ses déclarations représentent une critique vigoureuse d'un courant de pensée qui a considérablement influencé le débat sur les risques de l'IA.
Sankar a caractérisé les approches associées à ce mouvement comme une « tentative de coup d'État », remettant en question la validité et les intentions derrière les stratégies prédominantes dans le domaine de la sécurité de l'IA. Cette critique survient dans le contexte d'un débat plus large sur les méthodes les plus appropriées pour garantir le développement sûr de la technologie.
Le dirigeant de Palantir a particulièrement critiqué l'obsession pour la quantification du « risque existentiel » de l'intelligence artificielle. Cette emphase sur les métriques et les calculs spécifiques concernant les menaces extrêmes a été une caractéristique centrale du mouvement pour la sécurité de l'IA associé à l'altruisme efficace.
L'article paraît à un moment où le secteur technologique débat intensément des meilleures pratiques et philosophies pour orienter le développement responsable de l'intelligence artificielle, avec des visions divergentes sur la façon d'aborder les dangers potentiels de la technologie.
