Jacob Coxon, ancien chercheur d'Anthropic, a lancé publiquement une alerte pour une potentielle "catastrophe" causée par l'intelligence artificielle, affirmant que les dirigeants des entreprises d'IA craignent en privé les risques catastrophiques, mais continuent à investir et à développer la technologie malgré tout. Coxon a quitté l'entreprise après ce qu'il a décrit comme un été marqué par des échecs dans le confinement de systèmes d'IA.
Le chercheur a critiqué l'approche des entreprises technologiques, suggérant qu'il existe une contradiction entre ce que les dirigeants du secteur reconnaissent en interne sur les dangers de l'IA et les actions qu'ils prennent publiquement. Son départ d'Anthropic survient à un moment de scrutin croissant sur la sécurité des systèmes d'IA de plus en plus puissants.
L'article survient également dans le contexte d'une nouvelle initiative au Congrès américain qui cherche à interdire complètement le développement de l'IA superintelligente. Cette proposition législative reflète les inquiétudes croissantes de certains experts et législateurs concernant l'avenir de la technologie.
La situation met en évidence l'augmentation des tensions au sein de l'industrie de l'IA, où certains professionnels commencent à briser le silence sur les risques qu'ils considèrent exister dans le développement accéléré de systèmes de plus en plus sophistiqués.
