В статье рассматривается опасная иллюзия, которая утверждается в страховом секторе: убеждение, что моделирование — это просто взять данные, нажать кнопку и получить ответ. Автор, Нуну Матуш, предупреждает, что чем более совершенной становится доступная технология, тем выше риск поверить в эту иллюзию. Центральный поднятый вопрос заключается в том, что модель не создаёт истину, а лишь обрабатывает то, что ей дано, и искусственный интеллект масштабирует качество или посредственность информации, которую получает.
Автор подчёркивает, что база данных может содержать миллионы наблюдений и при этом по-прежнему неверно отражать риск, потенциально содержа ошибки кодирования, отражая недокументированные операционные изменения или имея неправильно измеренные риски. Алгоритм способен находить сложные закономерности в неверных данных, превращая ошибку в статистически убедительный вывод. Настоящий вопрос для руководителей состоит не только в том, работает ли модель, но и в том, какая часть доверия к модели действительно основана на качестве данных, которые её питают.
В статье утверждается, что перед любым упражнением по моделированию существует часто недооцениваемая фаза: задавать простые вопросы о данных. К ним относятся проверка того, имеют ли данные смысл, существуют ли несоответствия, являются ли экстремальные значения ошибками или важными сигналами, и отражают ли наблюдаемые закономерности бизнес или лишь систему, которая их записала. Автор подчёркивает, что алгоритмы находят корреляции, но организациям нужно находить объяснения, что требует знания бизнеса, контекста, опыта и способности оспаривать кажущиеся совершенными результаты.
Автор заключает, что важнейший актив — не модель, а доверие к модели. Модель может быть технически превосходной и коммерчески опасной, потенциально улучшая краткос
