Mit der bevorstehenden Steuersaison drängt der IRS Einzelpersonen dazu, sich der Gesichtserkennung zu unterwerfen, um im Gegenzug eine Reihe grundlegender steuerbezogener Aktivitäten online durchführen zu können. Der IRS hat eine private Firma – ID.me (früher bekannt als TroopSwap) – beauftragt, die behauptet, „sichere Identitätsprüfung, Authentifizierung und Überprüfung der Gruppenzugehörigkeit für Regierungen und Unternehmen in allen Sektoren“ bereitzustellen. Der IRS ist nicht die einzige Regierungsbehörde, die mit ID.me zusammenarbeitet. Das Unternehmen behauptet, „27 Bundesstaaten, mehrere Bundesbehörden und über 500 Markeneinzelhändler“ zu bedienen.
Dies ist aus mehreren Gründen alarmierend. In einem Whitepaper aus dem Jahr 2022 formuliert das Unternehmen seine Technologie auf irreführende Weise. Insbesondere verschleiert ID.me die Beziehung zwischen zwei unterschiedlichen Arten der Gesichtserkennung – Eins-zu-Eins-Verifizierung (Entsperren eines Telefons mit Ihrem Gesicht) und Eins-zu-Viele-Identifikation (Polizei sucht nach kriminellen Verdächtigen mithilfe von Überwachungskamera-Aufnahmen und a Fahndungsfoto-Datenbank). In dem Whitepaper geht ID.me aus dem Weg, um zu suggerieren, dass es keine Gesichtserkennung per se macht. Es erkennt diese beiden unterschiedlichen Arten der Gesichtserkennung und fährt dann sofort damit fort, „Gesichtserkennung“ ausdrücklich nur als Gesichtserkennung zu definieren. Dadurch scheint ID.me die Gefahren von Gesichtserkennungstechnologien zu erkennen, die weithin kritisiert und mit falschen Verhaftungen in Verbindung gebracht werden, und möchte als außerhalb dieser technologischen Kategorie angesehen werden. Der sprachliche Schritt des Unternehmens, seine Dienstleistungen von dem Begriff zu distanzieren Gesichtserkennung sollte über seine Vertrauenswürdigkeit Alarm schlagen.
ID.me spielte auch Bedenken herunter, die durch das Universitätsstudium aufkamen. Als jemand, der als Doktorand am MIT Peer-Review-Forschung zu kommerziellen KI-Systemen durchgeführt hat, die Gesichter analysieren, konnte ich nicht anders, als zu bemerken, dass ID.me es versäumt hat, ein einziges Zitat für seine Behauptung zu liefern, dass „Universitäten oft studieren keine präzise Terminologie verwenden.“ ID.me hat eindeutig einen enormen Anreiz – in Form von lukrativen, vom Steuerzahler finanzierten Regierungsaufträgen –, jegliche Kritik an seiner Technologie wegzufegen, und genau das scheint das zu sein, was es zu tun versucht.
Obwohl ID.me behauptet, dass „erhebliche Vorteile“ aus der Verwendung der Eins-zu-eins-Gesichtserkennung resultieren, geht das Unternehmen seine bekannten Nachteile nicht angemessen an oder befasst sich nicht intensiv mit spezifischen Ergebnissen, die auf erhebliche rassistische Vorurteile hinweisen, wie in einem US-Bericht von 2019 dokumentiert Bericht des Handelsministeriums. Laut dem National Institute for Standards and Technology der Abteilung hatte eine Analyse von Eins-zu-eins-Gesichtserkennungsalgorithmen ernüchternde Ergebnisse. Das NIST-Team sagt, es habe „höhere Raten falsch positiver Ergebnisse bei asiatischen und afroamerikanischen Gesichtern im Vergleich zu Bildern von Kaukasiern beobachtet. Die Differenzen lagen je nach Algorithmus häufig zwischen dem Faktor 10 und 100. Fehlalarme können für den Systembesitzer ein Sicherheitsproblem darstellen, da sie Betrügern den Zugriff ermöglichen können.“ Mit anderen Worten, Sicherheitsrisiken durch Fehlalarme bedeuten, dass jemand anderes Zugriff auf Ihre Steuerinformationen erhalten könnte.
Die Gefahren, die sich aus der Eins-zu-eins-Gesichtsidentitätsüberprüfung ergeben, können Einzelpersonen den Zugang zu staatlichen Leistungen verweigern; zu unangemessener Prüfung sowie Zeitverschwendung bei dem Versuch, sich von irrtümlichen Anschuldigungen wegen Betrugs oder anderer krimineller Aktivitäten reinzuwaschen; und mehr. Was 2019 im Vereinigten Königreich geschah, sollte eine Warnung sein: Es tauchten mehrere Berichte über dunkelhäutige Personen auf, die aufgrund von Gesichtserkennungsfehlern Schwierigkeiten hatten, Zugang zu staatlichen Diensten zu erhalten. In den Vereinigten Staaten beschwerten sich Menschen im vergangenen Jahr wiederholt über Gesichtserkennungstechnologie, die sie nicht erkannte und ihnen in einigen Fällen den Zugang zu wichtigen staatlichen Diensten verwehrte.
Die biometrische Identifizierung im Zusammenhang mit staatlichen Dienstleistungen stellt nicht nur People of Color vor Probleme. Denken Sie an die Geschichte eines Mannes aus Colorado, der monatelang keinen Zugang zu seinem Arbeitslosengeld hatte, was zum großen Teil auf die Technologie von ID.me zurückzuführen war. Der Anmeldeprozess des Unternehmens wird wahrscheinlich auch zusätzliche Probleme für Transgender- und geschlechtsnichtkonforme Personen darstellen, da Benutzer ein Bild von einem von der Regierung ausgestellten Ausweis mit einem Selfie abgleichen müssen und nicht jeder Zugang zu einem Führerschein oder Reisepass hat mit Fotos, die ihre aktuelle Geschlechtsdarstellung widerspiegeln.
Jenseits von falsch positiven oder falsch negativen Ergebnissen ist etwas noch Wichtigeres – das Recht, biometrische Technologie überhaupt nicht zu verwenden, unabhängig von ihrer Genauigkeit. Der Druck der Regierung auf die Bürger, ihre biometrischen Daten mit der Regierung zu teilen, betrifft uns alle – unabhängig von Rasse, Geschlecht oder politischer Zugehörigkeit. Wie ich 2019 in meiner schriftlichen Aussage vor dem Kongress vor dem House Oversight Committee mitteilte, haben Technologien, die menschliche Gesichter analysieren, reale und schlimme Folgen für das Leben der Menschen.
Erst vor wenigen Monaten, im Oktober 2021, hat das Büro für Wissenschafts- und Technologiepolitik (OSTP) des Weißen Hauses die Mission, „den Nutzen von Wissenschaft und Technologie zu maximieren, um Gesundheit, Wohlstand, Sicherheit, Umweltqualität und Gerechtigkeit für alle voranzubringen Amerikaner“ eine Anfrage nach Informationen über die Verwendung biometrischer Technologien im öffentlichen und privaten Sektor. Während das OSTP Beiträge von führenden Experten und allen interessierten Personen einholt, um zu entscheiden, ob und wie Gesichtserkennung (einschließlich Eins-zu-eins-Abgleich) und andere biometrische Technologien eingesetzt werden sollten, sind mehrere Bundesbehörden, einschließlich des IRS, bereits umgezogen die Produkte von ID.me zu übernehmen und sie der amerikanischen Öffentlichkeit bereitzustellen. Gemäß Schnelles Unternehmen, ID.me sagt, dass es jetzt vom Department of Veterans Affairs und der Social Security Administration sowie mehreren anderen Bundesbehörden verwendet wird.
ID.me behauptet, Gerechtigkeit und Gerechtigkeit zu fördern, drängt jedoch auf die Einführung seiner Technologie, bevor eine angemessene öffentliche Prüfung, Debatte und Aufsicht stattgefunden hat. Der CEO des Unternehmens widerlegte auch Behauptungen, dass die Technologie von ID.me keine Gesichtserkennung verwende, erst nachdem eine durchgesickerte interne Kommunikation enthüllte, dass seine Ingenieure eine Eins-zu-Viele-Gesichtserkennung zur Betrugserkennung verwendet hatten. Wir alle sollten besorgt sein über die falsche Darstellung von biometrischen Technologien, die an die Regierung verkauft und von ihr eingesetzt werden, da sie enorme Auswirkungen auf unsere Bürgerrechte und Freiheiten haben. Die US-Regierung drängt diese Technologie bereits auf die Bürger – während die Exekutive vorgibt, eine aussagekräftige Untersuchung darüber durchzuführen, wie die Regierung vorgehen sollte. Welchen Sinn hat es, nach Informationen zu den Einschränkungen und Schäden dieser Vorgehensweise zu suchen, wenn die Beamten sie trotzdem einsetzen?
Der Slogan von ID.me lautet „Leave no identity behind“, aber was noch besorgniserregender sein könnte, ist, dass die Bundesregierung ihr Mandat zum Schutz der Bürgerrechte und Freiheiten ihres Volkes hinter sich lassen könnte. Bundes- und Landesregierungen sollten ihre Nutzung von ID.me für den Zugang zu Steuerdiensten bzw. Arbeitslosengeld sofort einstellen. Keine biometrischen Technologien sollten von der Regierung eingeführt werden, um den Zugang zu Diensten oder Vorteilen zu kontrollieren, sicherlich nicht ohne sorgfältige Abwägung der Gefahren, die sie darstellen, die gebotene Sorgfalt bei externen Tests und die Zustimmung derjenigen, die potenziellem Missbrauch, Datenausbeutung und anderen Schäden ausgesetzt sind die uns alle betreffen.