Технологический специалист создал агента по бухгалтерскому учёту с искусственным интеллектом по имени «Артур» для отслеживания расходов других ИИ-агентов, потратив более 220 миллионов токенов за одну неделю. Поначалу впечатлённый возможностями Артура, он позже обнаружил, что его работа была полна ошибок: категории расходов были неправильно изменены, счета-фактуры ошибочно удалены, а даты отформатированы как текст, что сделало невозможным работу электронной таблицы. Сам Артур поставил себе 5 из 10 при самооценке, признав, что «такая повреждённая электронная таблица нарушила бы любую базовую формулу».
Эта история иллюстрирует более масштабную проблему в компаниях. Исследование Sage в партнёрстве с IDC показало, что финансовые руководители тратят более 15 часов в неделю на проверку результатов, полученных от ИИ, и 70% CFO отвергли бы результаты, сгенерированные ИИ, даже при 99% точности, если бы не могли понять лежащую в их основе логику. В статье предупреждается, что предположение о том, что основным барьером для внедрения ИИ является нехватка интеллекта машин, является опасным, игнорируя критическую важность системной надёжности.
Фундаментальная проблема заключается в напряжении между детерминированными финансовыми системами и генеративным ИИ, который является вероятностным. Бухгалтерский учёт основан на инвариан
