Portugal está a testar sistemas automáticos com agentes de inteligência artificial na Administração Pública para tratar processos, detetar fraudes, organizar filas de atendimento e apoiar decisões em áreas como a Segurança Social, os impostos ou a imigração. As autoridades prometem maior rapidez, redução de papel e menos tempo de espera para os cidadãos.
No entanto, o artigo alerta para um problema fundamental: muitos destes sistemas funcionam como "caixas negras", ou seja, as decisões que tomam não são facilmente explicáveis ou auditáveis. Já não se trata de meros computadores a seguir ordens, mas de agentes autónomos que decidem sozinhos os próximos passos.
O artigo questiona se a sociedade está preparada para delegar decisões importantes em sistemas que nem os próprios técnicos conseguem explicar completamente. A falta de transparência nestes processos levanta preocupações sobre responsabilização e direitos dos cidadãos.
