Ein Anfang dieses Monats vom New Yorker Stadtrat verabschiedeter Gesetzentwurf zielt darauf ab, Unternehmen daran zu hindern, künstliche, intelligent betriebene Einstellungstools zu verwenden, die aufgrund des Geschlechts oder der Rasse eines Bewerbers diskriminieren.
Wenn ein Gesetz unterzeichnet wird, verlangt das Gesetz von Anbietern die Technologie für Systeme, die jedes Jahr von einem Prüfungsdienst bewertet werden, und die Ergebnisse den Unternehmen, die diese Systeme verwenden, zur Verfügung zu stellen.
Arbeitgeber, die Systeme verwenden, die die Anforderungen nicht erfüllen, können mit einer Geldstrafe von bis zu 1.500 US-Dollar pro Verstoß belegt werden, aber das Gesetz sieht vor, dass es den Anbietern überlassen bleibt, die Audits durchzuführen und den Arbeitgebern zu zeigen, dass ihre Tools die Anforderungen der Stadt erfüllen.
Wenn das Gesetz in Kraft tritt, würde es im Januar 2023 in Kraft treten und New York City zum ersten Ort in den USA machen, der die Einstellung von KI-Tools einschränkt.
Für Video nach unten scrollen
Ein Anfang dieses Monats vom New Yorker Stadtrat verabschiedeter Gesetzentwurf zielt darauf ab, Unternehmen daran zu hindern, künstliche, intelligent betriebene Einstellungstools zu verwenden, die aufgrund des Geschlechts oder der Rasse eines Bewerbers diskriminieren
Alexandra Givens, Präsidentin des Center for Democracy & Technology, stellt jedoch fest, dass diese Gesetzgebung nicht vor Behinderungen oder Alter schützt.
“Der Ansatz der Prüfung auf Voreingenommenheit ist gut”, sagte Givens.
“Das Problem ist, dass New York City einen sehr schwachen und vagen Standard dafür hat, wie das aussieht.”
Sie sagte, der Gesetzentwurf sei kürzlich verwässert worden, so dass Arbeitgeber effektiv nur aufgefordert werden, die bestehenden Anforderungen der US-Bürgerrechtsgesetze zu erfüllen, die Einstellungspraktiken verbieten, die unterschiedliche Auswirkungen auf Grundlage von Rasse, ethnischer Zugehörigkeit oder Geschlecht haben.
Wenn ein Gesetz unterzeichnet wird, verlangt das Gesetz von Anbietern die Technologie für Systeme, die jedes Jahr von einem Wirtschaftsprüfungsdienst bewertet werden, und die Ergebnisse den Unternehmen, die diese Systeme verwenden, zur Verfügung zu stellen. Abgebildet ist ein System von Pymetrics, einer KI-Technologie zur Bewertung von beruflichen Fähigkeiten
Unternehmen setzen KI-basierte Tools ein, um die menschlichen Mitarbeiter bei der Überprüfung, Bewertung und Auswahl von Bewerbern zu entlasten.
Etwa 99 Prozent der Fortune-500-Unternehmen verwenden laut Jobscan zumindest eine Form eines automatisierten Bewerber-Tracking-Systems zum Screening von Kandidaten.
Die Technologie ist jedoch weitgehend unreguliert und mit Vorurteilen in Bezug auf Rasse, Geschlecht, Behinderung und mehr durchsetzt.
Der Stadtrat stimmte mit 38: 4 für die Verabschiedung des Gesetzes am 10. November und gab dem scheidenden Bürgermeister Bill De Blasio einen Monat, um es zu unterzeichnen oder sein Veto einzulegen oder es ohne Unterschrift in Kraft treten zu lassen.
De Blasios Büro sagt, dass er das Gesetz unterstützt, aber nicht gesagt hat, ob er es unterschreiben wird.
Wenn es in Kraft tritt, würde es im Januar 2023 unter der Verwaltung des gewählten Bürgermeisters Eric Adams in Kraft treten.
Julia Stoyanovich, eine außerordentliche Professorin für Informatik, die das Center for Responsible AI der New York University leitet, sagte, die besten Teile des Vorschlags seien die Offenlegungspflichten, um die Menschen wissen zu lassen, dass sie von einem Computer ausgewertet werden und wohin ihre Daten gehen.
“Dies wird ein Licht auf die Funktionen werfen, die diese Tools verwenden”, sagte sie.
Der Stadtrat stimmte mit 38:4 für die Verabschiedung des Gesetzes am 10. November und gab dem scheidenden Bürgermeister Bill De Blasio einen Monat, um es zu unterzeichnen oder sein Veto einzulegen oder es ohne Unterschrift in Kraft treten zu lassen. De Blasios Büro sagt, dass er das Gesetz unterstützt, aber nicht gesagt hat, ob er es unterschreiben wird
Wenn das Gesetz in Kraft tritt, würde es im Januar 2023 in Kraft treten und New York City zum ersten Ort in den USA machen, der die Einstellung von KI-Tools einschränkt. Abgebildet ist HireVue mit KI, das Gesichtserkennungssoftware verwendet, um Bewerber zu überprüfen
Stoyanovich sagte jedoch, sie sei auch besorgt über die Wirksamkeit von Bias-Audits von KI-Tools mit hohem Risiko – ein Konzept, das auch vom Weißen Haus, Bundesbehörden wie der Equal Employment Opportunity Commission und den Gesetzgebern im Kongress und im Europäischen Parlament geprüft wird.
“Die Last dieser Audits liegt bei den Anbietern der Tools, um zu zeigen, dass sie einige rudimentäre Anforderungen erfüllen, die sehr einfach zu erfüllen sind”, sagte sie.
Die Audits werden sich wahrscheinlich nicht auf die internen Einstellungstools auswirken, die von Technologiegiganten wie Amazon verwendet werden.
Das Unternehmen hat vor einigen Jahren die Verwendung eines Lebenslauf-Scanning-Tools aufgegeben, nachdem festgestellt wurde, dass Männer für technische Positionen bevorzugt wurden – zum Teil, weil es Stellenbewerber mit der eigenen männlich dominierten technischen Belegschaft des Unternehmens verglich.
Es gab wenig lautstarken Widerstand gegen den Gesetzentwurf von den KI-Anbietern, die am häufigsten von Arbeitgebern verwendet werden.
Eine davon, HireVue, eine Plattform für videobasierte Bewerbungsgespräche, sagte diese Woche in einer Erklärung, dass sie die Gesetzgebung begrüße, die “verlangt, dass alle Anbieter die hohen Standards erfüllen, die HireVue von Anfang an unterstützt hat”.