Le Portugal teste des systèmes automatiques avec des agents d'intelligence artificielle dans l'administration publique pour traiter des dossiers, détecter des fraudes, organiser les files d'attente et soutenir des décisions dans des domaines tels que la Sécurité sociale, les impôts ou l'immigration. Les autorités promettent une plus grande rapidité, une réduction du papier et moins de temps d'attente pour les citoyens.
Cependant, l'article met en garde contre un problème fondamental : beaucoup de ces systèmes fonctionnent comme des « boîtes noires », c'est-à-dire que les décisions qu'ils prennent ne sont pas facilement explicables ou auditables. Il ne s'agit plus de simples ordinateurs suivant des ordres, mais d'agents autonomes qui décider seuls des prochaines étapes.
L'article questionne si la société est préparée à déléguer des décisions importantes à des systèmes que même les techniciens eux-mêmes ne peuvent pas expliquer complètement. Le manque de transparence dans ces processus soulève des préoccupations sur la responsabilisation et les droits des citoyens.
