Jacob Coxon, chercheur qui a travaillé sur le développement de systèmes comme ChatGPT ou Claude, a quitté l'entreprise Anthropic en alertant sur les risques d'avancer vers des modèles d'intelligence artificielle de plus en plus puissants sans sécurité ni régulation adéquates.
L'article suggère que, face à des avertissements comme celui-ci, il ne faut pas s'arrêter au titre le plus alarmant, mais aussi examiner l'utilisation proche et quotidienne de l'intelligence artificielle, où le risque pourrait ne pas être une menace de science-fiction, mais plutôt une irresponsabilité normalisée.
La question centrale soulevée est le débat sur le degré d'alarme à associer à ces avertissements, bien qu'il soit difficile d'ignorer que ces mises en garde commencent à provenir de personnes qui ont travaillé à l'intérieur des laboratoires responsables de la construction de la technologie en question.
