Forscher haben ein spezifisches visuelles Muster entwickelt, das, wenn es auf ein Hemd gedruckt wird, Computer-Vision-KI-Systeme täuschen kann, sodass die tragende Person nicht erkannt oder mit dem Hintergrund verwechselt wird. Das Muster nutzt die sogenannten „adversarial examples" (adversariale Beispiele), also visuelle Störungen, die speziell darauf ausgelegt sind, das Verhalten von Machine-Learning-Algorithmen zu manipulieren.
Das Prinzip hinter der Technik ist keine Magie oder echte Unsichtbarkeit, sondern eine gezielte Ausnutzung der Schwächen und Grenzen von KI-basierten Erkennungssystemen. Diese Systeme analysieren visuelle Muster und können, wenn sie bestimmte Kombinationen aus Farben, Texturen oder Formen finden, versagen, ein Objekt oder eine Person im Bild zu erkennen.
Das Hemd wurde als „wahrscheinlich das hässlichste der Welt" bezeichnet, aufgrund seines absichtlich unangenehmen und chaotischen Designs, das niemand aus ästhetischen Gründen tragen würde. Dieses seltsame Aussehen ist genau das, was das Muster so effektiv macht, denn es erschwert es den Computer-Vision-Algorithmen, eine menschliche Präsenz in der Szene zu identifizieren.
Die Forschung wirft wichtige Fragen zur Sicherheit und Privatsphäre von KI-gestützten Überwachungstechnologien auf und zeigt, dass diese Systeme für relativ einfache Manipulationen anfällig sein können. Während einige dies als Bedrohung für die Sicherheit sehen, argumentieren andere, dass die Technik zum Schutz der individuellen Privatsphäre angesichts der zunehmenden digitalen Überwachung eingesetzt werden kann.
