Der Grund für diese Ergebnisse ist struktureller Natur. Die Netzwerkeffekte von Technologieplattformen treiben einige Unternehmen dazu, dominant zu werden, und Lock-in sichert ihre anhaltende Dominanz. Die Anreize im Technologiesektor sind so spektakulär und unglaublich stark, dass sie es sechs Megakonzernen (Amazon, Apple, Google, Facebook-Mutter Meta, Microsoft und Nvidia) ermöglicht haben, jeweils einen Marktwert von einer Billion Dollar zu erzielen – oder mehr. Diese Firmen nutzen ihr Vermögen, um jede sinnvolle Gesetzgebung zu blockieren, die ihre Macht beschneiden würde. Und manchmal konspirieren sie miteinander, um noch dicker zu werden.
Dieser Zyklus beginnt sich in der KI eindeutig zu wiederholen. Suchen Sie nicht weiter als das Aushängeschild der Branche OpenAI, dessen führendes Angebot, ChatGPT, weiterhin Maßstäbe in Bezug auf Akzeptanz und Nutzung setzt. Innerhalb eines Jahres nach der Einführung des Produkts war der Wert von OpenAI auf rund 90 Milliarden US-Dollar gestiegen.
OpenAI schien einst eine „offene“ Alternative zu den Megakonzernen zu sein – ein gemeinsamer Träger für KI-Dienste mit einer sozial orientierten gemeinnützigen Mission. Aber das Debakel um die Entlassung und Wiedereinstellung von Sam Altman Ende 2023 und die zentrale Rolle von Microsoft bei der Wiederbeschaffung von Altman auf den CEO-Posten verdeutlichten lediglich, wie Risikofinanzierung aus den bekannten Reihen der Tech-Elite die Unternehmens-KI durchdringt und kontrolliert. Im Januar 2024 machte OpenAI einen großen Schritt in Richtung Monetarisierung dieser Benutzerbasis, indem es seinen GPT Store einführte, in dem ein OpenAI-Kunde einem anderen die Nutzung seiner benutzerdefinierten Versionen der OpenAI-Software in Rechnung stellen kann; OpenAI kassiert natürlich Einnahmen von beiden Parteien. Dies setzt genau den Zyklus in Gang, vor dem Doctorow warnt.
Inmitten dieser Ausbeutungsspirale wird den externen Effekten, die auf die breite Öffentlichkeit wirken – Menschen, die die Plattformen nicht einmal nutzen – kaum oder gar keine Beachtung geschenkt. Selbst nachdem die Gesellschaft jahrelang mit ihren schädlichen Auswirkungen gekämpft hat, haben die monopolistischen sozialen Netzwerke praktisch keinen Anreiz, die Umweltauswirkungen ihrer Produkte, die Tendenz zur Verbreitung von Fehlinformationen oder die schädlichen Auswirkungen auf die psychische Gesundheit zu kontrollieren. Und die Regierung hat zu diesem Zweck praktisch keine Vorschriften erlassen.
Ebenso gibt es nur wenige oder gar keine Leitplanken, um die potenziellen negativen Auswirkungen von KI zu begrenzen. Gesichtserkennungssoftware, die einer rassistischen Profilerstellung gleichkommt, simulierte öffentliche Meinungen, die durch Chatbots aufgepeppt werden, gefälschte Videos in politischen Anzeigen – all das bleibt in einer rechtlichen Grauzone. Sogar klare Verstöße gegen das Gesetz zur Wahlkampfwerbung könnten, so meinen manche, vom Haken kommen, wenn sie es einfach mit KI tun.
Die Risiken mindern
Die Risiken, die KI für die Gesellschaft mit sich bringt, sind verblüffend bekannt, doch es gibt einen großen Unterschied: Es ist noch nicht zu spät. Dieses Mal wissen wir, dass alles kommen wird. Aufgrund unserer Erfahrung mit den Schäden, die soziale Medien anrichten, haben wir alle Warnungen, die wir brauchen, um dieselben Fehler zu vermeiden.
Der größte Fehler, den wir bei den sozialen Medien gemacht haben, bestand darin, sie als unregulierten Raum zu belassen. Selbst jetzt – nach all den Studien und Enthüllungen über die negativen Auswirkungen sozialer Medien auf Kinder und die psychische Gesundheit, nach Cambridge Analytica, nach der Aufdeckung der russischen Intervention in unsere Politik und nach allem anderen – bleiben soziale Medien in den USA weitgehend eine unregulierte „Waffe von“. Massenvernichtungs.” Der Kongress wird Millionen von Dollar an Beiträgen von Big Tech entgegennehmen, und die Gesetzgeber werden sogar Millionen ihrer eigenen Dollars in diese Unternehmen investieren, aber die Verabschiedung von Gesetzen, die ihr Verhalten einschränken oder bestrafen, scheint eine zu weitreichende Brücke zu sein.
Wir können es uns nicht leisten, dasselbe mit KI zu tun, denn es steht noch mehr auf dem Spiel. Der Schaden, den soziale Medien anrichten können, ergibt sich daraus, wie sie unsere Kommunikation beeinflussen. KI wird uns auf die gleiche Weise und noch viel mehr beeinflussen. Wenn die Entwicklung von Big Tech ein Zeichen dafür ist, werden KI-Tools zunehmend daran beteiligt sein, wie wir lernen und unsere Gedanken ausdrücken. Aber diese Tools werden auch Einfluss darauf haben, wie wir unsere täglichen Aktivitäten planen, wie wir Produkte entwerfen, wie wir Gesetze schreiben und sogar wie wir Krankheiten diagnostizieren. Die weitreichende Rolle dieser Technologien in unserem täglichen Leben gibt gewinnorientierten Unternehmen die Möglichkeit, Kontrolle über mehr Aspekte der Gesellschaft auszuüben, und das setzt uns den Risiken aus, die sich aus ihren Anreizen und Entscheidungen ergeben.