Un ingénieur d'Anthropic, Jacob Coxon, a démissionné de l'entreprise cette semaine et a eu recours au réseau social X pour accuser à la fois Anthropic et sa rivale OpenAI d'agir de façon irresponsable dans le développement de l'intelligence artificielle. Ses publications, qui ont déjà été vues plus de 70 millions de fois, ont généré une vague de préoccupation sur les réseaux sociaux concernant le rythme accéléré de cette technologie.
Selon la CNBC, Coxon a déclaré que les entreprises sont "en train de jouer avec nos vies" et que les personnes qui développent cette technologie croient qu'elle peut "nous tuer tous d'ici la fin de la décennie". L'ingénieur a lancé l'alerte selon laquelle des "systèmes surhumains capables de pirater n'importe quoi, de révolutionner n'importe quel domaine du jour au lendemain et de conquérir un pouvoir et des ressources réels" apparaîtront bientôt.
L'ingénieur a indiqué que tant Anthropic qu'OpenAI sont conscientes de ces dangers, mais continuent d'investir dans la technologie et sont en course pour concrétiser leurs offres publiques initiales. Coxon a souligné que "aucune de ces entreprises n'agit de façon responsable" et qu'elles "courent directement vers une superintelligence capable de s'auto-améliorer".
Les commentaires de Jacob Coxon ont reçu le soutien d'Evan Hubinger, leader du domaine de l'alignement chez Anthropic, qui a déclaré croire que l'IA peut effectivement tuer tous les humains, estimant une probabilité supérieure à 10% au cours de la prochaine décennie. Ces déclarations reflètent un débat de longue date dans la Silicon Valley sur la responsabilité de développer et de contrôler l'intelligence artificielle de façon sûre.
