Португалия тестирует автоматические системы с агентами искусственного интеллекта в государственной администрации для обработки заявлений, выявления мошенничества, организации очередей обслуживания и поддержки принятия решений в таких областях, как социальное обеспечение, налогообложение или иммиграция. Власти обещают greater speed, reduced paperwork and less waiting time for citizens.
Однако статья предупреждает о фундаментальной проблеме: многие из этих систем функционируют как «чёрные ящики», то есть принимаемые ими решения нелегко объяснить или проверить. Речь идёт уже не просто о компьютерах, following orders, but autonomous agents that decide the next steps on their own.
Статья ставит под вопрос, готова ли общество делегировать важные решения системам, которые even the technicians themselves cannot fully explain. Отсутствие прозрачности в этих процессах вызывает озабоченность относительно подотчётности и прав граждан.
