Portugal testet automatische Systeme mit KI-Agenten in der öffentlichen Verwaltung zur Bearbeitung von Anträgen, zur Betrugserkennung, zur Organisation von Warteschlangen und zur Unterstützung von Entscheidungen in Bereichen wie soziale Sicherheit, Steuern oder Einwanderung. Die Behörden versprechen größere Schnelligkeit, weniger Papierkram und kürzere Wartezeiten für die Bürger.
Der Artikel warnt jedoch vor einem grundlegenden Problem: Viele dieser Systeme funktionieren als „Black Boxes", das heißt, die Entscheidungen, die sie treffen, sind nicht leicht erklärbar oder überprüfbar. Es geht nicht mehr nur um einfache Computer, die Anweisungen befolgen, sondern um autonome Agenten, die selbstständig über die nächsten Schritte entscheiden.
Der Artikel stellt die Frage, ob die Gesellschaft bereit ist, wichtige Entscheidungen an Systeme zu delegieren, die nicht einmal die Techniker selbst vollständig erklären können. Der Mangel an Transparenz in diesen Prozessen wirft Bedenken hinsichtlich der Verantwortlichkeit und der Rechte der Bürger auf.
