Ein Technologieexperte erstellte einen Buchhaltungsagenten mit künstlicher Intelligenz namens „Artur", um die Ausgaben anderer KI-Agenten zu verfolgen, und verbrauchte in einer Woche mehr als 220 Millionen Tokens. Zunächst beeindruckt von Arturs Fähigkeiten, stellte er später fest, dass seine Arbeit voller Fehler war: Ausgabenkategorien wurden falsch geändert, Rechnungen versehentlich gelöscht und Daten als Text formatiert, was die Funktion der Tabellenkalkulation unmöglich machte. Artur gab sich in einer Selbsteinschätzung eine 5 von 10 und erkannte an, dass „eine so beschädigte Tabellenkalkulation jede grundlegende Formel zum Scheitern bringen würde".
Diese Geschichte veranschaulicht ein breiteres Problem in Unternehmen. Eine Untersuchung von Sage in Zusammenarbeit mit der IDC ergab, dass Finanzverantwortliche mehr als 15 Stunden pro Woche damit verbringen, von KI produzierte Ergebnisse zu validieren, und 70 % der CFOs von KI generierte Ergebnisse ablehnen würden, selbst bei 99 % Genauigkeit, wenn sie die zugrunde liegende Begründung nicht nachvollziehen könnten. Der Artikel warnt, dass die Annahme, das Haupthindernis für die KI-Implementierung sei der Mangel an maschineller Intelligenz, gefährlich ist, da die kritische Bedeutung der Systemzuverlässigkeit ignoriert wird.
Das grundlegende Problem liegt in der Spannung zwischen deterministischen Finanzsystemen und generativer KI, die probabilistisch ist. Buchhaltung basiert auf Invarianten, wie Soll gleich Haben, während KI Vorhersagen trifft und keine Zusicherungen gibt. Der Autor, der CTO von Sage ist, weist darauf hin, dass Artur empfohlen hatte, die Software eines Konkurrenten zu nutzen, ohne zu wissen, dass er mit dem Verantwortlichen des Unternehmens sprach – ein Fehler nicht in
