Das Department of Homeland Security (DHS) kündigte am Donnerstag zwei neue Richtlinien an, die sich mit künstlicher Intelligenz (KI) und seinem ersten Chief AI Officer befassen, mit besonderem Schwerpunkt auf der Verhinderung von Voreingenommenheit.
Eric Hysen, ebenfalls Chief Information Officer (CIO) des DHS und Co-Vorsitzender der DHS Artificial Intelligence Task Force (AITF), wird als erster Chief AI Officer der Abteilung fungieren. In einer Pressemitteilung sagte Hysen, er werde sicherstellen, dass der Einsatz von KI nicht zu Diskriminierung führe.
„Die Richtlinien, die wir heute bekannt geben, werden sicherstellen, dass der Einsatz von KI durch das Ministerium frei von Diskriminierung und in voller Übereinstimmung mit dem Gesetz erfolgt, sodass wir das Vertrauen der Öffentlichkeit behalten“, sagte Hysen.
Die beiden neuen Richtlinien „Erwerb und Nutzung von künstlicher Intelligenz und maschinellem Lernen durch DHS-Komponenten“ und „Einsatz von Gesichtserkennungs- und Gesichtserfassungstechnologien“ betonten die Notwendigkeit des Einsatzes von KI, um „eine unangemessene Berücksichtigung von Rasse, ethnischer Zugehörigkeit, Geschlecht und nationaler Herkunft“ zu vermeiden , Religion, Geschlecht, sexuelle Orientierung, Geschlechtsidentität, Alter, Nationalität, Gesundheitszustand oder Behinderung“ sowie jede „unbeabsichtigte Voreingenommenheit oder unterschiedliche Auswirkung“.
Die erste Richtlinie, die letzten Monat herausgegeben wurde, konzentrierte sich auf den Einsatz von KI im Allgemeinen sowie auf das Gegenstück, maschinelles Lernen (ML). Das DHS erklärte, es werde sich bemühen, „unangemessene Voreingenommenheit“ und diskriminierende Auswirkungen beim Einsatz von KI zu minimieren, indem es sich auf Methoden zur Bürgerrechtsbewertung wie die Analyse unterschiedlicher Auswirkungen stütze. Das DHS versprach außerdem, KI-Technologie nicht zu nutzen, um „unsachgemäße“ systemische, wahllose oder groß angelegte Überwachungs-, Überwachungs- oder Verfolgungssysteme zu ermöglichen.
Nach Angaben des Justizministeriums (DOJ) vermeiden unterschiedliche Auswirkungen das, was „die Auswirkungen früherer Diskriminierung fortsetzt“.
„In einem Fall mit unterschiedlichen Auswirkungen konzentriert sich die Untersuchung auf die Folgen der Praktiken des Empfängers und nicht auf die Absicht des Empfängers“, erklärte das DOJ.
Im Rahmen dieser Richtlinie kündigte das DHS die Einrichtung einer AI Policy Working Group (AIPWG) an, die mit der AITF an der Weiterentwicklung der KI-Richtlinie und -Umsetzung zusammenarbeiten soll.
KLICKEN SIE HIER, UM DIE DAILY WIRE-APP ZU ERHALTEN
Die zweite Richtlinie, die am 11. September herausgegeben wurde, konzentrierte sich insbesondere auf Gesichtserkennungs- und Gesichtserfassungstechnologien. Das DHS erklärte, dass seine Datenerfassung aus den Technologien nicht auf Rasse, ethnischer Zugehörigkeit, nationaler Herkunft, Religion, Geschlecht, Geschlechtsidentität, Alter, sexueller Orientierung, Gesundheitszustand oder Behinderung basieren würde, um „Voreingenommenheit und unterschiedliche Auswirkungen zu minimieren“.
Das DHS wies außerdem darauf hin, dass Gesichtsanalysetechnologien, die auf einem Algorithmus zur Schätzung der auf Film festgehaltenen Merkmale einer Person basieren, nur dann zum Einsatz kommen, wenn dies zur Schätzung des Alters erforderlich ist.
Die Richtlinie benannte Behörden für die Nutzung der beiden Technologien, einschließlich des CIO; Unterstaatssekretär für Management; Unterstaatssekretär für Wissenschaft und Technologie; Unterstaatssekretär für Strategie, Politik und Pläne; Chief Privacy Officer; Amt für Bürgerrechte und bürgerliche Freiheiten; General Counsel; und der Chief Information Security Officer.
Die AITF hat diese Richtlinien entwickelt.
DHS-Sekretär Alejandro Mayorkas gründete die AITF im April mit dem Ziel, eine Abteilungspolitik zum Einsatz von KI zu entwickeln. Die ausdrücklichen Ziele der AITF bestanden darin, die Integrität der Lieferkette und des Handels zu verbessern, dem Fluss von Fentanyl in die USA durch eine verbesserte Kriminalaufdeckung entgegenzuwirken, Täter festzunehmen und Opfer von sexueller Ausbeutung und Missbrauch von Kindern im Internet zu retten und kritische Infrastruktur im Allgemeinen zu sichern.
Hysens Gegenstück als Co-Vorsitzender, Dimitri Kusnezov, ist der Unterstaatssekretär des DHS für Wissenschaft und Technologie. Kusnezov war zuvor als leitender Berater des Energieministeriums und stellvertretender Staatssekretär für KI und Technologie tätig. Der Rest der AITF bestand aus den Leitern aller Büros und Agenturen.
Bevor Hysen zum DHS zurückkehrte und Co-Vorsitzender der AITF wurde, hatte er eine lange Karriere unter dem ehemaligen Präsidenten Barack Obama sowie bei zwei großen Big-Tech-Giganten hinter sich.
Hysen war Mitglied des Biden-Harris-Übergangsteams; leitete ein gemeinsames Projekt mit dem Penn-Biden Center for Diplomacy and Global Engagement und war gleichzeitig Mitglied der National Conference on Citizenship; leitete die politische Strategie für die Government Operations Agency des kalifornischen Gouverneurs Gavin Newsom; leitete die Justice & Opportunity Initiative im Rahmen der Chan Zuckerberg Initiative; war in der Obama-Regierung Geschäftsführer des DHS Digital Service; Mitbegründer und Leiter des Obama White House Digital Service; und leitete Googles Initiative „Civic Engagement“, um die Wahlbeteiligung zu erhöhen.
Neben der AITF und der AIPWG entwickeln der Homeland Security Advisory Council und zwei seiner Unterausschüsse die KI-Politik. Das Amt für Bürgerrechte und bürgerliche Freiheiten (CRCL) verfügt über eine Gruppe interner Interessengruppen – die sogenannte Responsible Use Group (RUG) –, die sich zu AITF-Projekten äußert. Diese Interessenvertreter wurden nicht veröffentlicht.