Wenn wir über künstliche Intelligenz sprechen, verlassen wir uns auf Metaphern, wie immer, wenn es um etwas Neues und Unbekanntes geht. Metaphern sind von Natur aus unvollkommen, aber wir müssen sie trotzdem sorgfältig auswählen, denn schlechte können uns in die Irre führen. Zum Beispiel ist es sehr üblich geworden, mächtige KIs mit Genies in Märchen zu vergleichen. Die Metapher soll die Schwierigkeit hervorheben, mächtige Wesen dazu zu bringen, Ihren Befehlen zu gehorchen; Der Informatiker Stuart Russell hat das Gleichnis von König Midas zitiert, der verlangte, dass alles, was er berührte, zu Gold wurde, um die Gefahren einer KI zu veranschaulichen, die das tut, was Sie ihr sagen, anstatt das, was Sie wollen. Es gibt mehrere Probleme mit dieser Metapher, aber eines davon ist, dass sie die falschen Lehren aus der Geschichte ableitet, auf die sie sich bezieht. Der Punkt des Midas-Gleichnisses ist, dass Gier Sie zerstören wird und dass das Streben nach Reichtum Sie alles kosten wird, was wirklich wichtig ist. Wenn Sie das Gleichnis so lesen, dass Sie, wenn Ihnen von den Göttern ein Wunsch erfüllt wird, Ihren Wunsch sehr, sehr sorgfältig formulieren sollten, dann haben Sie den Punkt verfehlt.
Daher möchte ich eine andere Metapher für die Risiken der künstlichen Intelligenz vorschlagen. Ich schlage vor, dass wir KI als Unternehmensberatung nach dem Vorbild von McKinsey & Company betrachten. Firmen wie McKinsey werden aus den unterschiedlichsten Gründen eingestellt, und auch KI-Systeme werden aus vielen Gründen eingesetzt. Aber auch die Ähnlichkeiten zwischen McKinsey – einem Beratungsunternehmen, das mit neunzig Prozent der Fortune 100 zusammenarbeitet – und KI sind klar. Social-Media-Unternehmen nutzen maschinelles Lernen, um Benutzer an ihren Feeds zu halten. Auf ähnliche Weise nutzte Purdue Pharma McKinsey, um herauszufinden, wie man den Verkauf von OxyContin während der Opioid-Epidemie „aufladen“ kann. Genauso wie KI verspricht, Managern einen billigen Ersatz für menschliche Arbeiter anzubieten, halfen McKinsey und ähnliche Firmen, die Praxis von Massenentlassungen zu normalisieren, um die Aktienkurse und die Vergütung von Führungskräften zu erhöhen, und trugen so zur Zerstörung der Mittelschicht in Amerika bei.
Ein ehemaliger McKinsey-Mitarbeiter hat das Unternehmen als „willige Vollstrecker des Kapitals“ bezeichnet: Wenn Sie etwas erledigen wollen, sich aber nicht die Hände schmutzig machen wollen, erledigt McKinsey das für Sie. Diese Flucht aus der Rechenschaftspflicht ist eine der wertvollsten Leistungen, die Unternehmensberatungen erbringen. Chefs haben bestimmte Ziele, wollen aber nicht dafür verantwortlich gemacht werden, dass sie das Notwendige getan haben, um diese Ziele zu erreichen. Durch die Einstellung von Beratern kann das Management sagen, dass es nur dem Rat eines unabhängigen Experten gefolgt ist. Selbst in seiner jetzigen rudimentären Form ist KI für ein Unternehmen zu einer Möglichkeit geworden, sich der Verantwortung zu entziehen, indem es sagt, dass es nur das tut, was „der Algorithmus“ sagt, obwohl es das Unternehmen war, das den Algorithmus überhaupt in Auftrag gegeben hat.
Die Frage, die wir uns stellen sollten, lautet: Wenn die KI immer leistungsfähiger und flexibler wird, gibt es eine Möglichkeit, sie davon abzuhalten, eine weitere Version von McKinsey zu sein? Die Frage ist es wert, über verschiedene Bedeutungen des Begriffs „KI“ hinweg nachgedacht zu werden. Wenn Sie KI als eine breite Palette von Technologien betrachten, die an Unternehmen vermarktet werden, um ihnen zu helfen, ihre Kosten zu senken, stellt sich die Frage: Wie können wir verhindern, dass diese Technologien als „ willige Henker des Kapitals“? Wenn Sie sich alternativ KI als ein halbautonomes Softwareprogramm vorstellen, das Probleme löst, um deren Lösung Menschen sie bitten, lautet die Frage: Wie können wir verhindern, dass diese Software Unternehmen auf eine Weise unterstützt, die das Leben der Menschen verschlechtert? Angenommen, Sie haben eine halbautonome KI gebaut, die den Menschen völlig gehorcht – eine, die wiederholt überprüft, ob sie die erhaltenen Anweisungen nicht falsch interpretiert hat. Das ist der Traum vieler KI-Forscher. Dennoch könnte eine solche Software immer noch so viel Schaden anrichten wie McKinsey.
Beachten Sie, dass Sie nicht einfach sagen können, dass Sie KI bauen werden, die nur prosoziale Lösungen für die Probleme bietet, die Sie von ihr verlangen. Das ist gleichbedeutend damit, dass man die Bedrohung durch McKinsey entschärfen kann, indem man ein Beratungsunternehmen gründet, das nur solche Lösungen anbietet. Die Realität ist, dass Fortune-100-Unternehmen McKinsey anstelle Ihrer prosozialen Firma einstellen werden, weil die Lösungen von McKinsey den Shareholder Value stärker steigern werden als die Lösungen Ihrer Firma. Es wird immer möglich sein, KI zu bauen, die vor allem den Shareholder Value verfolgt, und die meisten Unternehmen werden es vorziehen, diese KI anstelle einer durch Ihre Prinzipien eingeschränkten zu verwenden.
Gibt es eine Möglichkeit für KI, etwas anderes zu tun, als die Messerklinge des Kapitalismus zu schärfen? Nur um das klarzustellen: Wenn ich vom Kapitalismus spreche, meine ich nicht den Austausch von Waren oder Dienstleistungen zu marktbestimmten Preisen, was eine Eigenschaft vieler Wirtschaftssysteme ist. Wenn ich vom Kapitalismus spreche, meine ich ein spezifisches Verhältnis zwischen Kapital und Arbeit, in dem Privatpersonen, die Geld haben, von der Leistung anderer profitieren können. Wenn ich also im Kontext dieser Diskussion den Kapitalismus kritisiere, kritisiere ich nicht die Idee, Dinge zu verkaufen; Ich kritisiere die Idee, dass Leute, die viel Geld haben, Macht über Leute ausüben, die tatsächlich arbeiten. Und insbesondere kritisiere ich die ständig wachsende Konzentration des Reichtums auf eine immer kleinere Zahl von Menschen, die eine immanente Eigenschaft des Kapitalismus sein mag oder nicht, die aber den Kapitalismus, wie er heute praktiziert wird, absolut charakterisiert.
So wie sie derzeit eingesetzt wird, läuft KI oft darauf hinaus, eine Aufgabe zu analysieren, die Menschen ausführen, und einen Weg zu finden, den Menschen zu ersetzen. Zufälligerweise ist dies genau die Art von Problem, die das Management lösen möchte. Infolgedessen unterstützt KI das Kapital auf Kosten der Arbeit. Es gibt nicht wirklich so etwas wie eine Arbeitsberatungsfirma, die die Interessen der Arbeitnehmer fördert. Kann KI diese Rolle übernehmen? Kann KI irgendetwas tun, um Arbeitnehmer anstelle des Managements zu unterstützen?
Einige mögen sagen, dass es nicht die Aufgabe der KI ist, sich gegen den Kapitalismus zu stellen. Das mag stimmen, aber es ist auch nicht die Aufgabe der KI, den Kapitalismus zu stärken. Doch genau das tut es derzeit. Wenn wir keine Wege finden können, wie KI die Konzentration von Reichtum reduzieren kann, dann würde ich sagen, dass es schwer zu argumentieren ist, dass KI eine neutrale Technologie ist, geschweige denn eine vorteilhafte.
Viele Leute denken, dass KI mehr Arbeitslosigkeit schaffen wird, und bringen das universelle Grundeinkommen oder BGE als Lösung für dieses Problem ins Spiel. Generell finde ich die Idee des universellen Grundeinkommens gut; Im Laufe der Zeit bin ich jedoch skeptisch geworden, wie Leute, die in der KI arbeiten, das BGE als Antwort auf KI-bedingte Arbeitslosigkeit vorschlagen. Es wäre anders, wenn wir bereits ein universelles Grundeinkommen hätten, aber das haben wir nicht, also scheint es eine Möglichkeit für die Menschen zu sein, die KI entwickeln, ihre Unterstützung dafür auszudrücken, um der Regierung den Schwarzen Peter zuzuschieben. Tatsächlich verschärfen sie die Probleme, die der Kapitalismus schafft, in der Erwartung, dass die Regierung keine andere Wahl hat, als einzugreifen, wenn diese Probleme schlimm genug werden. Als Strategie, die Welt zu einem besseren Ort zu machen, erscheint dies zweifelhaft.
Sie erinnern sich vielleicht, dass die Schauspielerin Susan Sarandon – die eine glühende Unterstützerin von Bernie Sanders war – im Vorfeld der Wahlen 2016 sagte, dass es besser sei, für Donald Trump zu stimmen als für Hillary Clinton, weil dies die Revolution herbeiführen würde schneller. Ich weiß nicht, wie gründlich Sarandon darüber nachgedacht hatte, aber der slowenische Philosoph Slavoj Žižek sagte dasselbe, und ich bin mir ziemlich sicher, dass er sich viele Gedanken darüber gemacht hatte. Er argumentierte, dass die Wahl Trumps einen solchen Schock für das System darstellen würde, dass sie einen Wandel herbeiführen würde.
Wofür Žižek eintrat, ist ein Beispiel für eine Idee in der politischen Philosophie, die als Akzelerationismus bekannt ist. Es gibt viele verschiedene Versionen des Akzelerationismus, aber der rote Faden, der linke Akzelerationisten vereint, ist die Vorstellung, dass der einzige Weg, die Dinge zu verbessern, darin besteht, die Dinge zu verschlechtern. Der Akzelerationismus sagt, dass es sinnlos ist, den Kapitalismus zu bekämpfen oder zu reformieren; Stattdessen müssen wir die schlimmsten Tendenzen des Kapitalismus verschärfen, bis das gesamte System zusammenbricht. Der einzige Weg, den Kapitalismus zu überwinden, besteht darin, auf das Gaspedal des Neoliberalismus zu treten, bis der Motor explodiert.
Ich nehme an, dies ist eine Möglichkeit, eine bessere Welt zu schaffen, aber wenn dies der Ansatz ist, den die KI-Industrie verfolgt, möchte ich sicherstellen, dass allen klar ist, worauf sie hinarbeiten. Indem KI entwickelt wird, um Aufgaben zu erledigen, die zuvor von Menschen ausgeführt wurden, erhöhen KI-Forscher die Konzentration des Reichtums auf ein so extremes Niveau, dass der einzige Weg, den gesellschaftlichen Zusammenbruch zu vermeiden, darin besteht, dass die Regierung eingreift. Absichtlich oder nicht, dies ist dem Wählen sehr ähnlich Trump mit dem Ziel, eine bessere Welt herbeizuführen. Und der Aufstieg von Trump verdeutlicht die Risiken der Verfolgung von Akzelerationismus als Strategie: Die Dinge können sehr schlecht werden und lange Zeit sehr schlecht bleiben, bevor sie sich bessern. Tatsächlich haben Sie keine Ahnung, wie lange es dauern wird, bis sich die Dinge bessern. Sie können sich nur sicher sein, dass es kurz- und mittelfristig zu erheblichen Schmerzen und Leiden kommen wird.
Ich bin nicht sehr überzeugt von Behauptungen, dass KI eine Gefahr für die Menschheit darstellt, weil sie eigene Ziele entwickeln und uns daran hindern könnte, sie abzuschalten. Ich denke jedoch, dass KI insofern gefährlich ist, als sie die Macht des Kapitalismus erhöht. Das Weltuntergangsszenario ist keine produzierende KI, die den gesamten Planeten in Büroklammern verwandelt, wie ein berühmtes Gedankenexperiment es sich vorgestellt hat. Es sind KI-unterstützte Unternehmen, die die Umwelt und die Arbeiterklasse in ihrem Streben nach Shareholder Value zerstören. Der Kapitalismus ist die Maschine, die alles tun wird, um uns daran zu hindern, ihn abzuschalten, und die erfolgreichste Waffe in seinem Arsenal war seine Kampagne, die uns daran hindern sollte, Alternativen in Betracht zu ziehen.
Menschen, die neue Technologien kritisieren, werden manchmal Ludditen genannt, aber es ist hilfreich zu klären, was die Ludditen eigentlich wollten. Sie protestierten vor allem gegen die Tatsache, dass ihre Löhne sanken, während gleichzeitig die Gewinne der Fabrikbesitzer und die Lebensmittelpreise stiegen. Sie protestierten auch gegen unsichere Arbeitsbedingungen, den Einsatz von Kinderarbeit und den Verkauf von minderwertiger Ware, die die gesamte Textilindustrie diskreditierte. Die Ludditen zerstörten nicht wahllos Maschinen; Wenn der Besitzer einer Maschine seine Arbeiter gut bezahlte, ließen sie sie in Ruhe. Die Ludditen waren nicht gegen Technologie; Was sie wollten, war wirtschaftliche Gerechtigkeit. Sie zerstörten Maschinen, um die Aufmerksamkeit der Fabrikbesitzer zu erregen. Die Tatsache, dass das Wort „Luddite“ jetzt als Beleidigung verwendet wird, um jemanden als irrational und ignorant zu bezeichnen, ist das Ergebnis einer Schmutzkampagne der Kräfte des Kapitals.
Wann immer jemand jemand anderen beschuldigt, ein Luddit zu sein, lohnt es sich zu fragen, ob die Person, die beschuldigt wird, tatsächlich gegen Technologie ist? Oder sind sie für wirtschaftliche Gerechtigkeit? Und ist die Person, die den Vorwurf erhebt, tatsächlich dafür, das Leben der Menschen zu verbessern? Oder versuchen sie nur, die private Akkumulation von Kapital zu steigern?
Heute befinden wir uns in einer Situation, in der Technologie mit Kapitalismus verschmolzen ist, der wiederum mit dem Begriff des Fortschritts verschmolzen ist. Wenn Sie versuchen, den Kapitalismus zu kritisieren, wird Ihnen vorgeworfen, sowohl Technologie als auch Fortschritt abzulehnen. Aber was bedeutet Fortschritt überhaupt, wenn er nicht ein besseres Leben für Menschen beinhaltet, die arbeiten? Was nützt mehr Effizienz, wenn das gesparte Geld nirgendwo anders hinfließt als auf die Bankkonten der Aktionäre? Wir sollten alle danach streben, Ludditen zu sein, weil wir uns alle mehr um wirtschaftliche Gerechtigkeit kümmern sollten als um die Steigerung der privaten Kapitalakkumulation. Wir müssen in der Lage sein, schädliche Nutzungen von Technologie zu kritisieren – und dazu gehören auch Nutzungen, von denen Aktionäre gegenüber Arbeitnehmern profitieren – ohne als Technologiegegner bezeichnet zu werden.