Zum Inhalt springen
Arbeit & Gesellschaft

Alle im Bild bekommen eine grüne Box, nur der Hemdträger nicht: Was der Angriff auf Computer Vision für Ihre Kameras bedeutet

Das Muster wurde Schritt für Schritt gegen ein Erkennungsmodell optimiert, bis die Konfidenz für die Klasse Person einbrach. Nachgewiesen ist die Wirkung bisher nur gegen ein frei verfügbares Modell.

Lukas GörögLukas Görög2 Min. Lesezeit
Simon Weckerts Hemd macht Personenerkennung blind
Simon Weckerts Hemd macht Personenerkennung blind

Der deutsche Künstler und Designer Simon Weckert hat Ende August 2026 ein bewusst grell gemustertes Hemd vorgestellt. Es bringt ein frei verfügbares Modell zur Personenerkennung dazu, den Träger nicht mehr als Person einzuordnen. Das Projekt heißt „Digital Camouflage“. Als Anleitung zum Verschwinden taugt es kaum, als Lehrstück umso mehr: Computer VisionSammelbegriff für KI-Verfahren, die Bilder und Videos automatisch auswerten, etwa um Personen, Objekte oder Bewegungen zu erkennen. nimmt nicht neutral wahr, sondern rechnet statistisch – und lässt sich an ihren Entscheidungsgrenzen angreifen.

Der Standard berichtete am 30. August 2026, das Textil sei selbst mit Hilfe von KI entworfen worden. Genau darin liegt der Punkt: Wer ein Modell täuschen will, fragt am besten das Modell.

Was macht das Hemd technisch?

Es drückt die Trefferwahrscheinlichkeit für die Klasse „Person“. Das russische Portal Klops beschrieb das Kleidungsstück am 29. August 2026 als hawaiiartiges Hemd mit rosa, orangen und grünen Flächen, die die Körperkontur brechen. Die Farben sind kein Geschmacksurteil, sondern ein Rechenergebnis.

Das spanischsprachige Portal Infobae ordnete das Verfahren am 29. August 2026 als adversarialen Angriff ein. Der Ablauf, den Infobae und LePetitJournal Berlin schildern, ist schlicht:

  1. Das Muster wird einem Objekterkennungsmodell vorgelegt.
  2. Aus der Rückmeldung des Modells, ob und wie sicher es eine Person erkennt, entsteht die nächste Fassung.
  3. Die Schleife läuft, bis die KonfidenzDer Wahrscheinlichkeitswert, mit dem ein Modell eine Erkennung angibt. Fällt er unter eine Schwelle, wird kein Treffer gemeldet. für die Klasse Person so weit fällt, dass keine Markierung mehr gesetzt wird.

Der österreichische Technikblog von Oliver Jessner hielt am 30. August 2026 fest, die Demonstration laufe mit einem offenen YOLOVerbreitete, frei verfügbare Modellfamilie zur Objekterkennung in Bildern und Videos, oft Grundlage von Kameraanalytik.-Modell. Am deutlichsten zeigt die technische Beschreibung bei ExplainX das Ergebnis: Alle anderen Menschen im Bild bekommen eine grüne Box mit der Kennung „PERSON“, der Hemdträger nicht.

Wie belastbar ist der Nachweis?

Deutlich weniger, als die Schlagzeilen vermuten lassen. LePetitJournal Berlin warnt ausdrücklich, das Wort „unsichtbar“ sei irreführend: Die Kamera sehe den Menschen weiterhin, getäuscht werde ein bestimmter Algorithmus. Offen bleiben die Fragen, die im Betrieb zählen:

  • Wirkt das Muster bei wechselndem Licht, aus verschiedenen Winkeln und Distanzen?
  • Wirkt es gegen kommerzielle oder behördlich eingesetzte Personendetektoren? Dafür gibt es laut Oliver Jessner keine Nachweise.
  • Wie hoch ist die Erfolgsquote in realen Umgebungen, etwa der Anteil nicht erkannter Einzelbilder? Öffentlich dokumentierte Zahlen fehlen bisher.

Ein Kunstprojekt ist kein Sicherheitsaudit. Es beweist aber, dass der Angriffsweg existiert – ohne dass jemand die Kamera selbst berührt.

Was bedeutet das für Unternehmen, die Computer Vision einsetzen?

Es verschiebt die Beweislast. Wer Kameraanalytik für Zutritt, Arbeitssicherheit, Personenzählung oder Diebstahlerkennung nutzt, betreibt kein Messgerät. Er betreibt ein Wahrscheinlichkeitsmodell, dessen Ausfallmuster sich gezielt erzeugen lassen. Sobald ein Alarm rechtliche oder personelle Folgen hat, wird die Widerstandsfähigkeit gegen manipulierte Eingaben zur Compliance-Frage. Erkennung ist eine Schätzung, kein Sehen.

Drei Konsequenzen für die Praxis: Verlangen Sie bei der Beschaffung Testergebnisse gegen adversariale Muster, nicht nur Genauigkeitswerte auf sauberen Datensätzen. Protokollieren Sie Nichterkennungen, denn ein System, das schweigt, sieht aus wie ein System, bei dem nichts passiert. Und halten Sie eine menschliche Instanz im Ablauf, die Befunde prüfen und abbrechen kann. Bei autonomen Systemen ohne Abbruchrecht hat sich dieses Prinzip längst als Leerformel erwiesen.

Das Hemd wird niemanden dauerhaft aus einer Überwachungsanlage löschen. Sein Nutzen liegt woanders: Es zeigt, wo ein Modell aufhört zu wissen und anfängt zu raten.

Wie sollten Unternehmen mit Kameraanalytik auf adversariale Muster reagieren?

Ergebnisse sehen Sie nach Ihrer Stimme.

Häufige Fragen

Funktioniert das Hemd gegen jedes System zur Personenerkennung?

Nein, das lässt sich aus der Demonstration nicht ableiten. Getestet wurde ein frei verfügbares Modell auf Basis von YOLO. Andere Modelle können Muster, Kamerawinkel oder Bildqualität anders bewerten. Auch beim gleichen System können Abstand, Licht, Bewegung und teilweise verdeckte Kleidung das Ergebnis verändern. Das Hemd ist deshalb kein verlässliches Mittel zum Unsichtbarwerden.

Kann man damit Kameras zur Überwachung zuverlässig täuschen?

Als verlässlicher Schutz vor Überwachung taugt das Hemd kaum. Die Demonstration zeigt eine Schwäche bei der Erkennung einer Person unter bestimmten Bedingungen. Überwachungssysteme können mehrere Kameras, andere Modelle oder zusätzliche Merkmale nutzen. Ob das Muster wirkt, hängt deshalb vom eingesetzten System und der konkreten Aufnahmesituation ab.

Warum wurde das Muster mit KI entworfen?

Das Muster wurde offenbar nicht nach ästhetischen Kriterien ausgewählt. Weckert nutzte die Rückmeldung des Erkennungsmodells, um die Gestaltung schrittweise anzupassen. Fiel die Konfidenz für die Klasse „Person“, wurde dieser Ansatz weiterverfolgt. So macht das Projekt sichtbar, dass ein Modell seine eigenen Schwachstellen indirekt preisgeben kann.

Wie lässt sich der Versuch technisch nachvollziehen?

Für einen seriösen Nachbau brauchen Sie ein frei verfügbares Objekterkennungsmodell, Bildmaterial und eine kontrollierte Testumgebung. Das Muster wird dem Modell wiederholt vorgelegt und anhand seiner Erkennungswerte angepasst. Entscheidend sind vergleichbare Kameraeinstellungen und eine klare Dokumentation. Ein einzelnes erfolgreiches Bild reicht nicht, um die Methode allgemein zu bestätigen.

Wie sollten Betreiber von KI-Überwachung auf solche Angriffe reagieren?

Betreiber sollten sich nicht auf eine einzelne Erkennung verlassen. Tests mit veränderter Kleidung, Beleuchtung, Entfernung und Perspektive können Schwachstellen sichtbar machen. Mehrere Erkennungsschritte, zusätzliche Sensoren und eine menschliche Prüfung senken das Risiko falscher Ergebnisse. Bei sicherheitskritischen Anwendungen braucht es zudem eine Möglichkeit, automatische Entscheidungen abzubrechen.

Was sagt das Projekt über die Zuverlässigkeit von Computer Vision aus?

Computer Vision erkennt nicht wie ein Mensch, sondern berechnet Wahrscheinlichkeiten aus Bildmustern. Ein Modell kann deshalb auf auffällige Farben und Konturen stärker reagieren als auf die tatsächliche Person. Das Projekt beweist nicht, dass jede Erkennung unsicher ist. Es zeigt aber, warum Tests gegen gezielte Manipulation zu jeder verantwortungsvollen Prüfung gehören.

Teilen