Simon Mackenzie, Sicherheitsbeamter beim Discount-Einzelhändler QD Stores außerhalb von London, war außer Atem. Er hatte gerade drei Ladendiebe verfolgt, die mit mehreren Paketen Waschmittel davongeflogen waren. Bevor die Polizei eintraf, saß er an einem Schreibtisch im Hinterzimmer, um etwas Wichtiges zu tun: die Gesichter der Täter einzufangen.
Auf einem in die Jahre gekommenen Desktop-Computer rief er die Aufnahmen der Überwachungskameras auf, hielt kurz inne, um hineinzuzoomen und ein Foto von jedem Dieb zu speichern. Anschließend meldete er sich bei einem Gesichtserkennungsprogramm, Facewatch, an, mit dem sein Geschäft Ladendiebe identifiziert. Wenn diese Personen das nächste Mal ein Geschäft im Umkreis von ein paar Kilometern betreten, das Facewatch verwendet, erhält das Ladenpersonal eine Benachrichtigung.
„Es ist, als hätte man jemanden bei sich, der sagt: ‚Die Person, die du letzte Woche erwischt hast, ist gerade zurückgekommen‘“, sagte Mr. Mackenzie.
Der Einsatz von Gesichtserkennungstechnologie durch die Polizei wurde in den letzten Jahren stark unter die Lupe genommen, ihre Anwendung in Privatunternehmen hat jedoch weniger Beachtung gefunden. Da sich die Technologie nun verbessert und ihre Kosten sinken, greifen die Systeme immer tiefer in das Leben der Menschen ein. Gesichtserkennung ist nicht mehr nur eine Aufgabe staatlicher Behörden, sondern wird zunehmend auch zur Identifizierung von Ladendieben, problematischen Kunden und Rechtsgegnern eingesetzt.
Facewatch, ein britisches Unternehmen, wird von Einzelhändlern im ganzen Land genutzt, die wegen Kleinkriminalität frustriert sind. Für nur 250 Pfund pro Monat oder etwa 320 US-Dollar bietet Facewatch Zugriff auf eine individuelle Merkliste, die nahe beieinander liegende Aktien speichert. Wenn Facewatch ein markiertes Gesicht entdeckt, wird eine Benachrichtigung an ein Smartphone im Geschäft gesendet, wo die Mitarbeiter entscheiden, ob sie die Person im Auge behalten oder sie bitten, das Geschäft zu verlassen.
Herr Mackenzie fügt jede Woche ein oder zwei neue Gesichter hinzu, sagte er, hauptsächlich Leute, die Windeln, Lebensmittel, Tierbedarf und andere Billigwaren stehlen. Er sagte, ihre wirtschaftliche Not mache ihm Mitgefühl, aber die Zahl der Diebstähle sei so außer Kontrolle geraten, dass eine Gesichtserkennung erforderlich sei. Normalerweise macht ihn Facewatch mindestens einmal am Tag darauf aufmerksam, dass jemand auf der Merkliste den Laden betreten hat.
Die Gesichtserkennungstechnologie verbreitet sich, da westliche Länder mit den Fortschritten der künstlichen Intelligenz zu kämpfen haben. Die Europäische Union entwirft Regeln, die viele Einsatzmöglichkeiten der Gesichtserkennung verbieten würden, während Eric Adams, der Bürgermeister von New York City, Einzelhändler ermutigt hat, die Technologie zur Kriminalitätsbekämpfung auszuprobieren. MSG Entertainment, der Eigentümer von Madison Square Garden und Radio City Music Hall, hat mithilfe automatisierter Gesichtserkennung Anwälten, deren Kanzleien das Unternehmen verklagt haben, den Zutritt verweigert.
Unter den demokratischen Nationen ist Großbritannien führend bei der Nutzung der Live-Gesichtserkennung, und Gerichte und Aufsichtsbehörden haben dem Einsatz zugestimmt. Die Polizei in London und Cardiff experimentiert mit der Technologie, um gesuchte Kriminelle auf der Straße zu identifizieren. Im Mai wurde es verwendet, um die Menschenmenge bei der Krönung von König Karl III. zu scannen.
Der Einsatz durch den Einzelhandel wurde jedoch als unverhältnismäßige Lösung für geringfügige Straftaten kritisiert. Einzelpersonen haben kaum die Möglichkeit zu wissen, dass sie auf der Beobachtungsliste stehen oder wie sie Einspruch einlegen können. In einer Klageschrift im letzten Jahr nannte Big Brother Watch, eine zivilgesellschaftliche Gruppe, es „Orwellianisch im Extremfall“.
Fraser Sampson, der britische Beauftragte für Biometrie und Überwachungskameras, der die Regierung in politischen Fragen berät, sagte, es gebe „eine Nervosität und ein Zögern“ gegenüber der Gesichtserkennungstechnologie aufgrund von Datenschutzbedenken und schlecht funktionierenden Algorithmen in der Vergangenheit.
„Aber ich denke, dass die Gesichtserkennungstechnologie in Bezug auf Geschwindigkeit, Umfang, Genauigkeit und Kosten in einigen Bereichen buchstäblich bahnbrechend sein kann“, sagte er. „Das bedeutet, dass seine Ankunft und sein Einsatz wahrscheinlich unvermeidlich sind. Es ist nur eine Frage des Wann.“
„Man kann nicht erwarten, dass die Polizei kommt“
Facewatch wurde 2010 von Simon Gordon gegründet, dem Besitzer einer beliebten Weinbar aus dem 19. Jahrhundert im Zentrum von London, die für ihr kellerartiges Interieur und ihre Beliebtheit bei Taschendieben bekannt ist.
Damals beauftragte Herr Gordon Softwareentwickler mit der Entwicklung eines Online-Tools, um Überwachungskameraaufnahmen mit den Behörden zu teilen, in der Hoffnung, dass dies der Polizei Zeit bei der Einreichung von Vorfallberichten ersparen und zu mehr Verhaftungen führen würde.
Das Interesse war begrenzt, aber Mr. Gordons Faszination für Sicherheitstechnologie war geweckt. Er verfolgte die Entwicklungen im Bereich der Gesichtserkennung und hatte die Idee für eine Merkliste, die Einzelhändler teilen und zu der sie beitragen können. Es war wie die Fotos von Ladendieben, die Geschäfte neben der Kasse aufbewahren, aber in eine kollektive Datenbank hochladen, um Bösewichte in Echtzeit zu identifizieren.
Im Jahr 2018 hatte Herr Gordon das Gefühl, dass die Technologie für den kommerziellen Einsatz bereit sei.
„Man muss sich selbst helfen“, sagte er in einem Interview. „Man kann nicht damit rechnen, dass die Polizei kommt.“
Facewatch, das Gesichtserkennungssoftware von Real Networks und Amazon lizenziert, ist mittlerweile in fast 400 Geschäften in ganz Großbritannien erhältlich. Die Systeme basieren auf Millionen von Bildern und Videos und lesen die biometrischen Informationen eines Gesichts, wenn die Person ein Geschäft betritt, und gleichen sie mit einer Datenbank markierter Personen ab.
Die Beobachtungsliste von Facewatch wächst ständig, da Geschäfte Fotos von Ladendieben und problematischen Kunden hochladen. Einmal hinzugefügt, bleibt eine Person dort ein Jahr lang, bevor sie gelöscht wird.
„Fehler sind selten, kommen aber vor“
Jedes Mal, wenn das System von Facewatch einen Ladendieb identifiziert, geht eine Benachrichtigung an eine Person, die den Test zum „Super-Erkenner“ bestanden hat – jemand mit einem besonderen Talent, sich Gesichter zu merken. Innerhalb von Sekunden muss der Super-Erkenner die Übereinstimmung mit der Facewatch-Datenbank bestätigen, bevor eine Warnung gesendet wird.
Obwohl das Unternehmen Richtlinien erstellt hat, um Fehlidentifizierungen und andere Fehler zu verhindern, passieren Fehler.
Im Oktober wurde eine Frau, die in einem Supermarkt in Bristol, England, Milch kaufte, von einem Angestellten konfrontiert und aufgefordert, den Supermarkt zu verlassen. Ihr wurde gesagt, dass Facewatch sie als verbotene Ladendiebin gekennzeichnet hatte.
Die Frau, die aus Datenschutzgründen darum bat, ihren Namen zurückzuhalten, und deren Geschichte durch von ihrem Anwalt und Facewatch bereitgestellte Materialien bestätigt wurde, sagte, es müsse ein Fehler vorliegen. Als sie sich einige Tage später an Facewatch wandte, entschuldigte sich das Unternehmen mit der Begründung, es handele sich um eine Verwechslung.
Nachdem die Frau mit rechtlichen Schritten gedroht hatte, durchforstete Facewatch seine Unterlagen. Es stellte sich heraus, dass die Frau aufgrund eines Vorfalls zehn Monate zuvor, bei dem es um Waren im Wert von 20 Pfund, etwa 25 Dollar, ging, auf die Beobachtungsliste gesetzt worden war. Das System „funktionierte perfekt“, sagte Facewatch.
Doch obwohl die Technologie die Frau korrekt identifiziert hatte, ließ sie nicht viel Raum für menschliches Ermessen. Weder Facewatch noch das Geschäft, in dem sich der Vorfall ereignete, kontaktierten sie, um ihr mitzuteilen, dass sie auf der Beobachtungsliste stand, und um zu fragen, was passiert war.
Die Frau sagte, sie könne sich nicht an den Vorfall erinnern und habe noch nie einen Ladendiebstahl begangen. Sie sagte, sie sei möglicherweise gegangen, weil sie nicht gemerkt hatte, dass ihre Debitkartenzahlung an einem Self-Checkout-Automaten fehlgeschlagen war.
Madeleine Stone, die Rechts- und Richtlinienbeauftragte von Big Brother Watch, sagte, Facewatch „normalisiere Sicherheitskontrollen im Flughafenstil für alltägliche Aktivitäten wie den Kauf eines halben Liters Milch“.
Herr Gordon lehnte es ab, sich zu dem Vorfall in Bristol zu äußern.
Generell seien „Fehler selten, kommen aber vor“, sagte er. Er fügte hinzu: „Wenn dies geschieht, erkennen wir unseren Fehler an, entschuldigen uns, löschen alle relevanten Daten, um ein erneutes Auftreten zu verhindern, und bieten eine angemessene Entschädigung an.“
Von der Datenschutzbehörde genehmigt
Bürgerrechtsgruppen haben Bedenken hinsichtlich Facewatch geäußert und angedeutet, dass sein Einsatz zur Verhinderung von Kleinkriminalität nach dem britischen Datenschutzrecht illegal sein könnte, das verlangt, dass biometrische Technologien ein „wesentliches öffentliches Interesse“ haben.
Das britische Information Commissioner’s Office, die Datenschutzbehörde, führte eine einjährige Untersuchung zu Facewatch durch. Das Büro kam im März zu dem Schluss, dass das System von Facewatch gesetzlich zulässig sei, allerdings erst, nachdem das Unternehmen Änderungen an seiner Funktionsweise vorgenommen habe.
Stephen Bonner, der stellvertretende Kommissar für Regulierungsaufsicht des Büros, sagte in einem Interview, dass eine Untersuchung Facewatch dazu veranlasst habe, seine Richtlinien zu ändern: Es würde mehr Beschilderungen in Geschäften anbringen, nur Informationen über schwere und gewalttätige Straftäter an die Geschäfte weitergeben und Warnungen nur über solche aussenden Wiederholungstäter. Das bedeutet, dass Personen nicht nach einem einzigen geringfügigen Vergehen auf die Beobachtungsliste gesetzt werden, wie es bei der Frau in Bristol der Fall war.
„Das reduziert die Menge der gespeicherten personenbezogenen Daten, verringert die Wahrscheinlichkeit, dass Personen zu Unrecht in diese Art von Liste aufgenommen werden, und erhöht die Wahrscheinlichkeit, dass sie korrekt ist“, sagte Herr Bonner. Die Technologie sei „nicht unähnlich zu sehr guten Sicherheitskräften“, sagte er.“
Liam Ardern, der Betriebsleiter von Lawrence Hunt, dem 23 Spar-Convenience-Stores gehören, die Facewatch nutzen, schätzt, dass das Unternehmen durch die Technologie seit 2020 mehr als 50.000 Pfund eingespart hat.
Er nannte die Datenschutzrisiken der Gesichtserkennung übertrieben. Das einzige Beispiel einer Fehlidentifikation, an das er sich erinnerte, war die Verwechslung eines Mannes mit seinem eineiigen Zwilling, der einen Ladendiebstahl begangen hatte. Kritiker übersähen, dass Geschäfte wie seines mit geringen Gewinnspannen arbeiten, sagte er.
„Es fällt ihnen leicht zu sagen: ‚Nein, das verstößt gegen die Menschenrechte‘“, sagte Herr Ardern. Wenn der Ladendiebstahl nicht zurückgehe, müssten seine Geschäfte die Preise erhöhen oder Personal abbauen, sagte er.