Um profissional de tecnologia criou um agente de contabilidade com inteligência artificial chamado "Artur" para acompanhar os gastos de outros agentes de IA, consumindo mais de 220 milhões de tokens numa semana. Inicialmente impressionado com a capacidade do Artur, descobriu depois que o seu trabalho estava repleto de erros: categorias de despesas alteradas incorretamente, faturas eliminadas por engano e datas formatadas como texto, impossibilitando o funcionamento da folha de cálculo. O próprio Artur deu a si próprio 5 em 10 numa autoavaliação, reconhecendo que "uma folha de cálculo tão danificada como esta falharia qualquer fórmula básica".
Esta história ilustra um problema mais amplo nas empresas. Uma investigação da Sage em parceria com a IDC revelou que os responsáveis financeiros passam mais de 15 horas por semana a validar resultados produzidos por IA, e 70% dos CFOs recusariam resultados gerados por IA, mesmo com 99% de precisão, se não conseguissem compreender o raciocínio subjacente. O artigo alerta que a suposição de que a principal barreira à implementação de IA é a falta de inteligência das máquinas é perigosa, ignorando a importância crítica da fiabilidade sistémica.
O problema fundamental reside na tensão entre sistemas financeiros determinísticos e a IA generativa, que é probabilística. A contabilidade assenta em invariantes, como débitos iguais a créditos, enquanto a IA faz previsões e não promessas. O autor, que é CTO da Sage, refere que Artur recomendou a adesão ao software de um concorrente sem saber que falava com o responsável da empresa, errando não na análise, mas ao adivinhar quando não deveria.
As soluções passam por três pilares: ações rastreáveis e explicabilidade total, controlo e supervisão humanos com limites claros para os agentes, e governação exigente com autenticação robusta e separação de funções. O autor propõe a criação de um "Agent OS", um ambiente operacional que disponibilize ferramentas determinísticas aos agentes e garanta que operam dentro de padrões de rigor e responsabilização.
