L'article aborde une illusion dangereuse qui s'installe dans le secteur de l'assurance : la croyance que faire de la modélisation consiste simplement à prendre des données, appuyer sur un bouton et obtenir une réponse. L'auteur, Nuno Matos, met en garde contre le fait que plus la technologie disponible devient sophistiquée, plus le risque de croire en cette illusion augmente. La question centrale soulevée est qu'un modèle ne crée pas de vérité, il traite seulement ce qui lui est donné, et l'intelligence artificielle fait varier l'échelle de la qualité ou de la médiocrité de l'information qu'elle reçoit.
L'auteur souligne qu'une base de données peut contenir des millions d'observations tout en continuant à mal représenter le risque, pouvant contenir des erreurs de codification, refléter des changements opérationnels non documentés ou présenter des expositions mal mesurées. Un algorithme peut trouver des motifs sophistiqués dans des données erronées, transformant l'erreur en une conclusion statistiquement convaincante. La véritable question pour les gestionnaires n'est pas seulement de savoir si le modèle fonctionne, mais combien de la confiance dans le modèle repose effectivement sur la qualité des données qui l'alimentent.
L'article défend l'idée qu'avant tout exercice de modélisation, il existe une phase souvent sous-estimée : poser des questions simples sur les données. Celles-ci incluent vérifier si les données ont du sens, s'il existe des incohérences, si les valeurs extrêmes sont des erreurs ou des signaux importants, et si les motifs observés reflètent le métier ou simplement le système qui les a enregistrés. L'auteur souligne que les algorithmes trouvent des corrélations, mais les organisations doivent trouver des explications, ce qui exige une connaissance du métier, du contexte, de l'expérience et la capacité de remettre en question des résultats apparemment parfaits.
L'auteur conclut que l'actif le plus important n'est pas le modèle, mais la confiance dans le modèle. Un modèle peut être techniquement excellent et commercialement dangereux, pouvant améliorer des indicateurs à court terme tout en nuisant à la compréhension du risque à long terme. L'avantage concurrentiel du futur ne sera pas déterminé seulement par ceux qui développeront les meilleurs algorithmes, mais par ceux qui sauront construire une véritable couche de confiance entre les données et la décision. Le véritable investissement stratégique n'est pas dans les algorithmes, mais dans la capacité organisationnelle de distinguer un insight d'une illusion.
