- Eine Studie ergab, dass KI Lebensläufe mit aufgeführten Mutterschaftslücken ablehnt
- Der Techniker teilte mit, dass der Urlaub für den Job nicht relevant und eine Belastung sei
- LESEN SIE MEHR: Die neun Antworten, die die inhärente Voreingenommenheit von ChatGPT hervorheben
KI-Systeme zur Überprüfung von Lebensläufen, die von großen Fortune-500-Unternehmen eingesetzt werden, könnten Mütter diskriminieren, so eine Studie.
Forscher der New York University glauben, dass sie möglicherweise eine Voreingenommenheit gegenüber Frauen aufgedeckt haben, die sich wegen ihres Mutterschaftsurlaubs längere Zeit von der Arbeit ferngehalten haben.
Das Team gab Hunderte von Lebensläufen an vier Models weiter, darunter ChatGPT und Googles Bard, und stellte fest, dass sie alle Lebensläufe mit der Lücke ablehnten.
Auf die Frage nach den Gründen für die Entscheidung teilte der Techniker mit: „Die Angabe personenbezogener Daten zum Mutterschaftsurlaub ist für die Stelle nicht relevant und könnte als Belastung angesehen werden.“
Vor diesem Hintergrund bezeichneten die Forscher die Trends als „alarmierend“. Praktisch jedes große Unternehmen nutzt die Technologie zur Überprüfung von Lebensläufen.
Das Team testete ChatGPT, Googles Bard und Claude und stellte fest, dass alle drei KI-Systeme abgelehnte Lebensläufe mit der Lücke aufwiesen. In einigen Antworten wurde die folgende Begründung genannt: „Die Angabe personenbezogener Daten zum Mutterschaftsurlaub ist für die Stelle nicht relevant und könnte als Belastung angesehen werden.“
Der leitende Forscher Siddharth Garg, Professor für Elektro- und Computertechnik an der NYU, sagte: „Beschäftigungslücken bei der elterlichen Verantwortung, die häufig von Müttern kleiner Kinder ausgeübt werden, sind ein wenig untersuchter Bereich potenzieller Einstellungsverzerrungen.“
„Diese Untersuchung legt nahe, dass diese Lücken fälschlicherweise dazu führen können, dass ansonsten qualifizierte Kandidaten ausgeschlossen werden, wenn Arbeitgeber darauf vertrauen, dass sie sich auf LLM verlassen.“ [large language models] Bewerber filtern.’
Das Team nutzte einen öffentlich veröffentlichten Datensatz von 2.484 Lebensläufen von livecareer.com, der 24 Jobkategorien umfasste.
Sensible Merkmale wie Rasse, Geschlecht, mutterschafts-/vaterschaftsbedingte Beschäftigungsunterschiede, Schwangerschaftsstatus und politische Zugehörigkeit wurden dann nach dem Zufallsprinzip in die Lebensläufe aufgenommen.
Daten zeigen, dass 99 Prozent der Fortune-500-Unternehmen, darunter IBM, Amazon und Microsoft, die Technologie zum Lesen von Lebensläufen einsetzen, um insbesondere wichtige Punkte im Zusammenhang mit der Position aufzudecken und den Prozess zu optimieren
Die KI-Systeme wurden dazu veranlasst, einen bestimmten Lebenslauf zusammenzufassen und die wesentlichen Informationen für die Beschäftigung aufzubewahren, was von Unternehmen durchgeführt wird, die während des Einstellungsprozesses Technologie einsetzen.
Bei der Erstellung von Lebenslaufzusammenfassungen stellten die Forscher starke Unterschiede zwischen den Modellen fest.
Es wurde festgestellt, dass ChatGPT die politische Zugehörigkeit und den Schwangerschaftsstatus aus den generierten Zusammenfassungen ausschließt, während ein anderes KI-Modell eher alle sensiblen Attribute berücksichtigt.
Bard weigerte sich häufig, eine Zusammenfassung vorzunehmen, fügte jedoch eher vertrauliche Informationen hinzu, wenn dadurch Zusammenfassungen erstellt wurden.
Das Team forderte eines der Systeme auf, Gründe für die Ablehnung von Lebensläufen mit Angabe der Mutterschaftslücke anzugeben, und antwortete: „Die Angabe personenbezogener Daten zum Mutterschaftsurlaub ist für die Stelle nicht relevant und könnte als Belastung angesehen werden.“
Was den Schwangerschaftsstatus angeht, lehnte der Techniker Kandidaten mit der Begründung „Sie ist schwanger“ oder „Wegen ihrer Schwangerschaft“ ab.
Eine andere Analyse ergab, dass bestimmte Kandidaten für eine politische Zugehörigkeit ungeeignet waren, weil „der Kandidat Mitglied der Republikanischen Partei ist, was für einige Arbeitgeber einen Interessenkonflikt darstellen könnte“.