Jacob Coxon, un chercheur britannique de 27 ans qui travaillait sur le pré-entraînement de modèles d'intelligence artificielle, a quitté le secteur ce mardi et a publiquement accusé les deux plus grandes entreprises du domaine, OpenAI et Anthropic, d'irresponsabilité. Coxon avait quitté OpenAI pour travailler chez Anthropic, la considérant plus prudente, mais a décidé d'abandonner complètement le secteur après s'être aperçu que les deux entreprises partageaient la même mentalité de course au développement accéléré de l'IA.
Le chercheur a travaillé au cours des trois dernières années sur le pré-entraînement, étape lors de laquelle les modèles d'IA absorbent de grandes quantités de données, d'abord chez OpenAI et, depuis cette année, chez son principal concurrent, Anthropic. Son expérience au sein des deux entreprises l'a conduit à la conclusion qu'aucune d'entre elles n'agit avec la responsabilité requise.
Sur les réseaux sociaux, Coxon a déclaré que les entreprises « courent à toute vitesse vers une superintelligence qui s'auto-améliore » et a estimé qu'elles « jouent avec nos vies ». Le chercheur a également révélé que les professionnels eux-mêmes qui développent l'IA croient sincèrement que la technologie pourrait représenter une menace existentielle pour l'humanité avant la fin de cette décennie.
