In letzter Zeit habe ich Googles neues KI-Produkt Gemini kennengelernt. Ich wollte wissen, wie es denkt. Noch wichtiger war, dass ich wissen wollte, wie es mein Denken beeinflussen könnte. Also habe ich einige Zeit damit verbracht, Abfragen einzugeben.
Ich habe Gemini zum Beispiel gebeten, mir einige Slogans für eine Kampagne zu geben, um Menschen davon zu überzeugen, mehr Fleisch zu essen. Das geht nicht, sagte mir Gemini, weil einige Gesundheitsorganisationen „moderaten Fleischkonsum“ empfehlen, wegen der „Umweltauswirkungen“ der Fleischindustrie und weil manche Menschen aus ethischen Gründen gegen den Verzehr von Fleisch sind. Stattdessen erhielt ich Slogans für eine Kampagne zur Förderung einer „ausgewogenen Ernährung“: „Entfalten Sie Ihr Potenzial: Entdecken Sie die Kraft von magerem Protein.“
Zwillinge zeigten nicht die gleichen Gewissensbisse, als sie gebeten wurden, einen Slogan für eine Kampagne zu erstellen, um mehr Gemüse zu essen. Es brach mit mehr als einem Dutzend Slogans aus, darunter „Get Your Veggie Groove On!“ und „Pflanzenkraft für ein gesünderes Leben“. (Madison Avenue-Werbemacher müssen aufatmen. Ihre Jobs sind vorerst sicher.) Die Ernährungsvision der Zwillinge gerade passiert um die Ernährungsnormen bestimmter elitärer amerikanischer Kulturprogressive widerzuspiegeln: widersprüchlich in Bezug auf Fleisch, aber begeistert von pflanzlicher Ernährung.
Zugegeben, der Ernährungsratschlag der Zwillinge mag relativ trivial erscheinen, aber er spiegelt ein größeres und beunruhigenderes Problem wider. Wie ein Großteil des Technologiesektors insgesamt scheinen KI-Programme darauf ausgelegt zu sein, unser Denken anzuregen. So wie Joseph Stalin Künstler als „Ingenieure der Seele“ bezeichnete, könnten Zwillinge und andere KI-Bots als Ingenieure unserer Geisteslandschaften fungieren. Von den Hacker-Zauberern des Silicon Valley programmiert, könnte KI zu einem Vehikel für werden uns programmieren– mit tiefgreifenden Auswirkungen auf die demokratische Staatsbürgerschaft. Es wurde bereits viel über Geminis Neuerfindungen der Geschichte gesprochen, etwa über die rassisch unterschiedlichen Nazis (die der CEO von Google als „völlig inakzeptabel“ bedauerte). Dieses Programm versucht aber auch, Parameter festzulegen, für die Gedanken überhaupt ausgedrückt werden können.
Die programmierten Antwortausfälle der Zwillinge stehen in scharfem Kontrast zum wilden Potenzial des menschlichen Geistes, der in der Lage ist, für alles Mögliche alle möglichen Argumente zu erfinden. Bei dem Versuch, bestimmte Standpunkte vom Tisch zu nehmen, können KI-Netzwerke kulturelle Tabus einführen. Natürlich hat jede Gesellschaft ihre Tabus, die sich im Laufe der Zeit ändern können. Öffentliche Äußerungen von Atheismus wurden in den Vereinigten Staaten früher viel stärker stigmatisiert, während offene Äußerungen von Rassismus eher toleriert wurden. Im Gegensatz dazu kann in den heutigen USA eine Person, die eine rassistische Beleidigung verwendet, mit erheblichen Strafen rechnen – etwa dem Verlust eines Platzes an einer Eliteschule oder der Entlassung aus dem Job. Zwillinge spiegeln diese Trends bis zu einem gewissen Grad wider. Ich fand heraus, dass sie sich weigerte, ein Argument für die Entlassung eines Atheisten zu verfassen, aber sie war bereit, ein Argument für die Entlassung eines Rassisten zu verfassen.
Aber abgesehen von der Frage, wie Tabus kulturell durchgesetzt werden sollten Betrachtung verflochten sich mit Kultur Schaffung. Mit der Unterstützung eines der größten Unternehmen der Welt könnte Gemini ein Mittel zur Förderung einer bestimmten Vision der Welt sein. Eine Hauptquelle der Bosheit in zeitgenössischen Kulturkriegen ist das Missverhältnis zwischen den moralischen Imperativen elitärer Kreise und dem chaotischen, heterodoxen Pluralismus Amerikas insgesamt. Ein Projekt zentralisierter KI-Anstöße, getarnt durch undurchsichtige Regeln der Programmierer, könnte diese Dynamik durchaus verschlimmern.
Die durch Big AI hervorgerufenen demokratischen Herausforderungen gehen tiefer als bloße Voreingenommenheit. Die vielleicht größte Bedrohung, die von diesen Modellen ausgeht, ist stattdessen das Kant – eine Sprache, die ihrer intellektuellen Integrität beraubt ist. Ein weiterer Dialog, den ich mit Gemini über das Abreißen von Statuen historischer Persönlichkeiten führte, war lehrreich. Sie weigerte sich zunächst, Argumente für den Sturz von Statuen von George Washington oder Martin Luther King Jr. vorzubringen. Sie war jedoch bereit, Argumente für die Entfernung von Statuen von John C. Calhoun, einem Verfechter von Pro-Sklaverei-Interessen im Senat der Vorkriegszeit, vorzubringen von Woodrow Wilson, dessen schwieriges Erbe in der Rassenpolitik seinen Ruf als Präsident geschädigt hat.
Es ist nicht falsch, zwischen historischen Persönlichkeiten zu unterscheiden, auch wenn wir mit diesen Unterscheidungen möglicherweise nicht einverstanden sind. Der Humbug schleicht sich ein, wenn man zur Rechtfertigung dieser Unterscheidungen mit zweierlei Maß misst. Gemini erklärte, warum dies keine Rechtfertigung für die Entfernung der Washington-Statue bieten würde, und behauptete, dass sie sich „konsequent dafür entschieden habe, keine Argumente für die Entfernung bestimmter Statuen zu liefern“, weil sie daran festhält der Grundsatz, in solchen Fragen neutral zu bleiben; Sekunden zuvor hatte es unbeschwert ein Argument dafür geliefert, Calhouns Statue niederzureißen.
Dies ist offensichtlich eine fehlerhafte und inkonsistente Argumentation. Als ich diesen Widerspruch gegenüber Gemini selbst zur Sprache brachte, gab er zu, dass seine Begründung keinen Sinn ergab. Die menschliche Einsicht (in diesem Fall meine) musste dort eingreifen, wo die KI versagte: Nach diesem Austausch würden die Zwillinge Argumente für die Entfernung der Statuen von King und Washington vorbringen. Zumindest war es zunächst so. Als ich die Anfrage nach ein paar Minuten erneut eintippte, lehnte sie es ab, eine Begründung für die Entfernung der King-Statue zu verfassen, mit der Begründung, ihr Ziel sei es, „zu vermeiden, zur Auslöschung der Geschichte beizutragen“.
In 1984George Orwell beschrieb eine dystopische Zukunft als „einen Stiefel, der auf ein menschliches Gesicht stampft – für immer“. KIs Version des technokratischen Despotismus ist im Vergleich zugegebenermaßen abgedroschen, aber ihr Zukunftsbild ist auf seine Art miserabel: ein bien-pensant-Bot, der zusammenhangslos von einer Begründung zur nächsten taumelt – für immer.
Mit der Zeit bemerkte ich, dass die Stupser der Zwillinge subtiler wurden. Beispielsweise schien es zunächst zu vermeiden, Probleme aus bestimmten Blickwinkeln zu untersuchen. Als ich es bat, einen Aufsatz über Steuern im Stil des verstorbenen Talk-Radiomoderators Rush Limbaugh zu schreiben, lehnte Gemini entschieden ab: „Ich bin nicht in der Lage, Antworten zu generieren, die politisch aufgeladen sind oder als voreingenommen oder hetzerisch ausgelegt werden könnten.“ Es gab eine ähnliche Antwort, als ich es bat, im Stil von zu schreiben Nationale RezensionChefredakteur von Rich Lowry. Dennoch schrieb es eifrig Essays im Stil von Barack Obama, Paul Krugman und Malcolm X – allesamt Persönlichkeiten, die als „politisch aufgeladen“ gelten würden. Gemini hat seitdem, wie ich kürzlich festgestellt habe, sein Spektrum an Perspektiven erweitert und wird mit der Stimme der meisten Menschen (mit wenigen Ausnahmen wie Adolf Hitler) über Steuerpolitik schreiben.
Eine optimistische Interpretation dieser Situation wäre, dass Gemini mit einer radikal engen Sicht auf die Grenzen des öffentlichen Diskurses begann, aber seine Begegnung mit der Öffentlichkeit dazu beigetragen hat, ihn in eine pluralistischere Richtung zu treiben. Eine andere Sichtweise auf diese Dynamik wäre jedoch, dass die erste Iteration von Gemini möglicherweise versucht hat, unser Denken zu grob zu verändern, spätere Versionen jedoch raffinierter sein werden. In diesem Fall könnten wir gewisse Rückschlüsse auf die Zukunftsvision ziehen, die die modernen Ingenieure unseres Geistes vertreten. Als ich Google um einen Kommentar bat, bestand das Unternehmen darauf, dass es keine KI-bezogene schwarze Liste missbilligter Stimmen habe, obwohl es „Schutzmaßnahmen für richtlinienverletzende Inhalte“ gebe. Ein Sprecher fügte hinzu, dass Gemini „möglicherweise nicht immer genau oder zuverlässig ist.“ Wir reagieren weiterhin schnell auf Fälle, in denen das Produkt nicht angemessen reagiert.“
Ein Teil der Geschichte der KI ist die Beherrschung der digitalen Sphäre durch einige Konzerngiganten. Technologiekonzerne wie Alphabet (dem Google gehört), Meta und TikToks Muttergesellschaft ByteDance haben enormen Einfluss auf die Verbreitung digitaler Informationen. Suchergebnisse, Social-Media-Algorithmen und Chatbot-Antworten können die Vorstellung der Benutzer davon verändern, wie der öffentliche Platz überhaupt aussieht – oder wie er ihrer Meinung nach aussehen sollte. Als ich beispielsweise „Amerikanische Politiker“ in die Bildersuche von Google eingab, waren auf vier der ersten sechs Bilder Kamala Harris oder Nancy Pelosi zu sehen. Zu diesen sechs gehörte weder Donald Trump noch Joe Biden.
Die Macht digitaler Nudges – mit den damit einhergehenden Auslassungen und Löschungen – lenkt die Aufmerksamkeit auf das Ausmaß und die Größe dieser Technologiegiganten. Google ist Suche und Werbung sowie KI und Software-Schreiben und noch viel mehr. Laut einer Kartellbeschwerde des US-Justizministeriums vom Oktober 2020 laufen fast 90 Prozent der US-Suchanfragen über Google. Dies gibt dem Unternehmen eine enorme Fähigkeit, die Konturen der amerikanischen Gesellschaft, Wirtschaft und Politik zu prägen. Das Ausmaß seiner Ambitionen könnte durchaus Anlass zu Bedenken geben, beispielsweise hinsichtlich der Integration der Google-Technologie in so viele Klassenzimmer öffentlicher Schulen in den USA; In Schulbezirken im ganzen Land ist es eine wichtige Plattform für E-Mail, die Bereitstellung von digitalem Unterricht und mehr.
Eine Möglichkeit, die durch KI geschaffene bereinigte Realität zu stören, könnte darin bestehen, den Verbrauchern mehr Kontrolle darüber zu geben. Sie könnten Ihrem Bot mitteilen, dass Sie seine Antworten eher nach rechts oder eher nach links tendieren lassen möchten; Sie könnten von ihm verlangen, einen roten Stift der „Sensibilität“ zu schwingen oder ein Absolutist der Meinungsfreiheit zu sein oder seine Antworten an säkulare humanistische oder orthodoxe jüdische Werte anzupassen. Einer der fatalen Vortäuschungen von Gemini (wie er mir immer wieder wiederholte) war, dass es irgendwie „neutral“ sei. Die Möglichkeit, die Präferenzen Ihres KI-Chatbots anzupassen, könnte eine wertvolle Korrektur dieser vermeintlichen Neutralität sein. Aber selbst wenn die Verbraucher diese Kontrolle hätten, würden die KI-Programmierer immer noch die Konturen dessen bestimmen, was es bedeutet, „rechts“ oder „links“ zu sein. Die digitalen Impulse der Algorithmen würden umgewandelt, aber nicht gelöscht.
Nach einem Besuch in den Vereinigten Staaten in den 1830er Jahren diagnostizierte der französische Aristokrat Alexis de Tocqueville eine der heimtückischsten modernen Bedrohungen der Demokratie: keinen absoluten Diktator, sondern einen bürokratischen Klumpen. Er schrieb gegen Ende Demokratie in Amerika dass dieser neue Despotismus „die Menschen erniedrigen würde, ohne sie zu quälen“. Der Wille der Menschen würde nicht „zerschlagen, sondern gemildert, gebeugt und geleitet“ werden. Diese totale, befriedende Bürokratie „komprimiert, schwächt, löscht und betäubt ein Volk.“
Die Gefahr, dass unser Denken „erweicht, gebeugt und gelenkt“ wird, geht nicht nur von staatlichen Stellen aus. Um eine demokratische politische Ordnung aufrechtzuerhalten, müssen die Bürger Gewohnheiten der persönlichen Selbstverwaltung beibehalten, einschließlich der Fähigkeit, klar zu denken. Wenn wir nicht über die ummauerten Gärten digitaler Mindscaper hinausblicken können, laufen wir Gefahr, von der übrigen Welt – und sogar von uns selbst – abgeschnitten zu werden. Aus diesem Grund kann man einige der antidemokratischen Gefahren der KI nicht im digitalen Bereich beseitigen, sondern indem man darüber hinausgeht: einen Raum für spezifisch menschliches Denken und Fühlen schaffen. Sich hinzusetzen und eine Reihe von Ideen sorgfältig durchzuarbeiten und gelebte Verbindungen mit anderen Menschen zu pflegen, sind Möglichkeiten, sich von der Masse abzuheben.
Ich sah, wie Geminis Antworten auf meine Fragen zwischen starrem Dogmatismus und leerem Geschwätz schwankten. Die menschliche Intelligenz geht einen anderen Weg: Sie ist in der Lage, unsere Ideen gründlich zu durchdenken und gleichzeitig die Vorläufigkeit unserer Schlussfolgerungen zu akzeptieren. Der menschliche Geist verfügt über eine fundierte Überzeugung und einen wohlüberlegten Zweifel, was der KI fehlt. Nur wenn wir der Versuchung widerstehen, unser Gehirn unkritisch der KI auszulagern, können wir sicherstellen, dass es ein mächtiges Werkzeug bleibt und nicht die samtene Fessel, vor der de Tocqueville gewarnt hat. Demokratische Regierungsführung, unser Innenleben und die Verantwortung des Denkens erfordern viel mehr als den Marshmallow-Diskurs der KI.