Ich kann sagen, dass Buolamwini das Cover amüsant findet. Sie macht ein Foto davon. Die Zeiten haben sich seit 1961 stark verändert. In ihren neuen Memoiren KI entlarven: Meine Mission, das Menschliche in einer Welt der Maschinen zu schützen, Buolamwini erzählt ihre Lebensgeschichte. In vielerlei Hinsicht verkörpert sie, wie weit die Technologie seitdem fortgeschritten ist und wie viel weiter es noch gehen muss.
Buolamwini ist vor allem für eine bahnbrechende Arbeit bekannt, die sie 2017 gemeinsam mit der KI-Forscherin Timnit Gebru verfasst hat und die den Titel „Gender Shades“ trägt. Darin wurde aufgedeckt, dass kommerzielle Gesichtserkennungssysteme die Gesichter schwarzer und brauner Menschen, insbesondere schwarzer Frauen, oft nicht erkannten. Ihre Forschung und ihr Engagement führten dazu, dass Unternehmen wie Google, IBM und Microsoft ihre Software verbesserten, um weniger voreingenommen zu sein und ihre Technologie nicht mehr an die Strafverfolgungsbehörden zu verkaufen.
Jetzt hat Buolamwini ein neues Ziel im Visier. Sie fordert ein radikales Umdenken beim Aufbau von KI-Systemen. Buolamwini erklärt gegenüber MIT Technology Review, dass sie inmitten des aktuellen KI-Hype-Zyklus ein sehr reales Risiko darin sieht, Technologieunternehmen die für sie geltenden Regeln festlegen zu lassen – und damit genau den Fehler zu wiederholen, der zuvor voreingenommene und repressive Technologien zum Gedeihen gebracht hat .
„Was mich beunruhigt, ist, dass wir so vielen Unternehmen eine Freikarte geben oder der Innovation applaudieren und gleichzeitig den Kopf verdrehen [away from the harms]“, sagt Buolamwini.
Ein besonderes Anliegen, sagt Buolamwini, ist die Grundlage, auf der wir die funkelndsten KI-Spielzeuge von heute bauen, sogenannte Fundamentmodelle. Technologen gehen davon aus, dass diese multifunktionalen Modelle als Sprungbrett für viele andere KI-Anwendungen dienen, von Chatbots bis hin zur automatisierten Filmproduktion. Sie entstehen durch das Auslesen großer Datenmengen aus dem Internet, darunter zwangsläufig auch urheberrechtlich geschützte Inhalte und persönliche Informationen. Viele KI-Unternehmen werden derzeit von Künstlern, Musikfirmen und Schriftstellern verklagt, die behaupten, ihr geistiges Eigentum sei ohne Zustimmung gestohlen worden.
Die derzeitige Vorgehensweise der heutigen KI-Unternehmen ist unethisch – eine Form des „Datenkolonialismus“, sagt Buolamwini, mit einer „völligen Missachtung der Einwilligung“.
„Wenn es keine Gesetze gibt, wird alles geplündert“, sagt sie. Als Autorin, sagt Buolamwini, erwarte sie voll und ganz, dass ihr Buch, ihre Gedichte, ihre Stimme und ihre Leitartikel – sogar ihre Doktorarbeit – in KI-Modelle eingearbeitet werden.
„Sollte ich feststellen, dass meine Arbeit in diesen Systemen verwendet wurde, werde ich mich auf jeden Fall melden. Das ist es, was wir tun“, sagt sie.