„Die Gegenwart ist keine Gefängnisstrafe, sondern lediglich unsere aktuelle Momentaufnahme“, schreiben sie. „Das tun wir nicht haben unethische oder undurchsichtige algorithmische Entscheidungssysteme zu verwenden, selbst in Kontexten, in denen ihre Verwendung technisch machbar sein könnte. Werbung, die auf Massenüberwachung basiert, ist kein notwendiger Bestandteil unserer Gesellschaft. Wir müssen keine Systeme aufbauen, die die Schichtungen der Vergangenheit und Gegenwart lernen und sie in der Zukunft verstärken. Die Privatsphäre ist nicht aufgrund der Technologie tot; Es stimmt nicht, dass die einzige Möglichkeit, den Journalismus, das Schreiben von Büchern oder andere Berufe, die Ihnen wichtig sind, zu unterstützen, darin besteht, Sie auszuspionieren, um Anzeigen zu schalten. Es gibt Alternativen.“
Ein dringender Regulierungsbedarf
Wenn es das Ziel von Wiggins und Jones war, die intellektuelle Tradition aufzudecken, die den heutigen algorithmischen Systemen zugrunde liegt, einschließlich „der anhaltenden Rolle von Daten bei der Neuordnung der Macht“, interessiert sich Josh Simons mehr dafür, wie algorithmische Macht in einer Demokratie ausgeübt wird und genauer gesagt, wie wir könnte dazu übergehen, die Unternehmen und Institutionen, die es betreiben, zu regulieren.
PRINCETON UNIVERSITY PRESS
Simons ist derzeit wissenschaftlicher Mitarbeiter für politische Theorie in Harvard und verfügt über einen einzigartigen Hintergrund. Er arbeitete nicht nur vier Jahre lang bei Facebook, wo er Gründungsmitglied des späteren Responsible AI-Teams war, sondern war zuvor auch als politischer Berater für die Labour Party im britischen Parlament tätig.
In Algorithmen für das Volk: Demokratie im Zeitalter der KISimons baut auf der wegweisenden Arbeit von Autoren wie Cathy O’Neil, Safiya Noble und Shoshana Zuboff auf und argumentiert, dass algorithmische Vorhersagen von Natur aus politisch sind. „Mein Ziel ist es herauszufinden, wie wir die Demokratie im kommenden Zeitalter des maschinellen Lernens zum Funktionieren bringen können“, schreibt er. „Unsere Zukunft wird nicht von der Natur des maschinellen Lernens selbst bestimmt – Modelle des maschinellen Lernens tun einfach das, was wir ihnen sagen –, sondern von unserem Engagement für eine Regulierung, die sicherstellt, dass maschinelles Lernen die Grundlagen der Demokratie stärkt.“
Ein Großteil der ersten Hälfte des Buches ist der Aufdeckung all unserer Möglichkeiten gewidmet missverstehen die Natur des maschinellen Lernens und wie sein Einsatz die Demokratie tiefgreifend untergraben kann. Und was ist, wenn eine „florierende Demokratie“ – ein Begriff, den Simons im gesamten Buch verwendet, aber nie definiert – nicht immer mit algorithmischer Governance vereinbar ist? Nun ja, es ist eine Frage, die er nie wirklich anspricht.
Ob es sich nun um blinde Flecken handelt oder ob Simons einfach glaubt, dass algorithmische Vorhersagen ein unvermeidlicher Teil unseres Lebens sind und bleiben werden, der Mangel an Klarheit tut dem Buch keinen Gefallen. Auch wenn er sich bei der Erklärung, wie maschinelles Lernen funktioniert und den Systemen hinter Googles PageRank und Facebooks Feed dekonstruiert, auf viel sichererem Boden bewegt, gibt es immer noch Auslassungen, die kein Vertrauen erwecken. Beispielsweise dauert es unangenehm lange, bis Simons überhaupt eine der Hauptmotivationen hinter dem Design der PageRank- und Feed-Algorithmen erkennt: Gewinn. Das sollten Sie nicht übersehen, wenn Sie einen wirksamen Regulierungsrahmen entwickeln möchten.
„Die ultimative, verborgene Wahrheit der Welt ist, dass sie etwas ist, das wir erschaffen und das wir genauso gut anders machen könnten.“
Vieles von dem, was in der zweiten Hälfte des Buches besprochen wird, wird jedem bekannt sein, der die Nachrichten rund um die Plattform- und Internetregulierung verfolgt (Hinweis: Wir sollten Anbieter eher wie öffentliche Versorgungsunternehmen behandeln). Und obwohl Simons einige kreative und intelligente Ideen hat, vermute ich, dass selbst die eifrigsten Politikexperten angesichts der aktuellen Lage der Politik in den Vereinigten Staaten ein wenig demoralisiert sein werden.
Letztendlich liegt die hoffnungsvollste Botschaft, die diese Bücher vermitteln, in der Natur der Algorithmen selbst. In Filterwelt, fügt Chayka ein Zitat des verstorbenen, großen Anthropologen David Graeber hinzu: „Die ultimative, verborgene Wahrheit der Welt ist, dass sie etwas ist, das wir erschaffen und das wir genauso gut anders machen könnten.“ Es ist ein Gefühl, das in allen drei Büchern zum Ausdruck kommt – vielleicht abzüglich des „einfach“-Teils.
Algorithmen können unsere Vorurteile festigen, die Kultur homogenisieren und verflachen und die Schwachen und Ausgegrenzten ausbeuten und unterdrücken. Aber das sind keine völlig undurchschaubaren Systeme oder unvermeidlichen Ergebnisse. Sie können auch das Gegenteil bewirken. Wenn Sie sich jeden Algorithmus für maschinelles Lernen genau ansehen, werden Sie unweigerlich auf Menschen stoßen – Menschen, die Entscheidungen darüber treffen, welche Daten gesammelt und wie sie gewichtet werden sollen, Entscheidungen über Design und Zielvariablen treffen. Und ja, sogar Entscheidungen darüber, ob sie überhaupt verwendet werden sollen. Solange Algorithmen etwas sind, das von Menschen gemacht wird, können wir uns auch dafür entscheiden, sie anders zu machen.
Bryan Gardiner ist ein Autor aus Oakland, Kalifornien.