Der Council on Foreign Relations gilt in der Regel als Spitzeninstitut der herrschenden Klasse der USA. Seine Stipendiaten entwerfen Politik und seine Mitglieder, die aus der Wall Street, der Wissenschaft und dem Elite-Journalismus stammen, verkehren mit Regierungsministern und sogar mit dem gelegentlichen Präsidenten. Aber sein Star ist mit dem Untergang des alten WASP-Establishments und der Ablösung seines überparteilichen deliberativen Stils durch den kruden Bombast der Gegenwart gefallen.
Es kann jedoch immer noch einige Marquee-Namen anziehen, auch wenn die Qualität des Diskurses etwas nachgelassen hat. Am vergangenen Montag setzten sich der ehemalige Google-CEO Eric Schmidt und das ehemalige Theranos-Vorstandsmitglied Henry Kissinger (via Zoom) zusammen, um über künstliche Intelligenz (KI) zu diskutieren – das Thema eines neuen Buches, das die beiden mit Daniel Huttenlocher, dem Antrittsdekan der Schwarzman College of Computing am MIT. Das Gespräch war wie das Buch eine seltsame Mischung aus Schmidts Techno-Begeisterung und Kissingers mitteleuropäischer Düsternis, die die atemlosen Behauptungen der KI-Promoter weitgehend als Tatsache akzeptierte.
Das Projekt hatte seinen Ursprung vor einigen Jahren, als Kissinger zufällig auf einer Konferenz einen Vortrag über einen Computer hörte, der für das immens komplexe Spiel Go programmiert war. (War dies das erste Mal, dass er davon gehört hat?) Kissinger begann sich anscheinend Sorgen zu machen, was dies alles für die Zukunft der Menschheit bedeutete, und schrieb seine Bedenken in einem Artikel von 2018 in Der Atlantik. AI, erklärte Kissinger, bedeute das Ende der Aufklärung (die, um die Wahrheit zu sagen, seit einiger Zeit nicht mehr allzu gesund aussah). „Die menschliche Kognition verliert ihren persönlichen Charakter. Aus Individuen werden Daten, und Daten werden vorherrschend.“
Groß, wenn wahr, wie es im Internet heißt. Dass Maschinen so geschickt beim Schach- oder Go-Spielen sein können, sagt möglicherweise mehr über diese Spiele aus als das Potenzial der KI. Trotz ihrer Komplexität ist der Umfang solcher Spiele äußerst begrenzt – und steht beispielsweise in nichts über der scheinbar banalen Komplexität des Autofahrens.
Ich verfolge den Fortschritt in der KI seit einigen Jahrzehnten und die Geschichte war immer dieselbe: Eine Handvoll erfolgreicher Beispiele lassen eine enorme Auszahlung erahnen, die immer kurz bevorsteht – aber nie ganz eintrifft. Behauptungen zu selbstfahrenden Fahrzeugen sind derzeit besonders grandios. Es vergeht kaum ein Tag, an dem Elon Musk nicht für die autonomen Fahrkünste seines Teslas wirbt. Die Realität sieht ganz anders aus.
Vom „vollständigen Selbstfahren“ ist noch weit weg, wie CNN-Reporter Michael Ballaban erst vor wenigen Wochen mit seinem Versuch zeigte, sich von einem Tesla sicher durch eine tückische Passage auf Brooklyns Atlantic Avenue, einem dicht bevölkerten und chaotischen Straßenabschnitt, führen zu lassen deren Gefahren ich jedes Mal fürchte, wenn ich darin navigiere. Nur sein Eingreifen verhinderte, dass das Auto ihn in einen entgegenkommenden UPS-Lastwagen fuhr, und das war nur einer von vielen Beinahe-Unfällen. Ballabans Missgeschicke ereignen sich drei Jahre, nachdem ein selbstfahrender Uber in Arizona einen Fußgänger tötete. Die Software dieses Autos brauchte mehrere fatale Sekunden, um herauszufinden, dass das, was sie zuerst für ein Fahrrad hielt, tatsächlich eine Person war. Es entschied sich schließlich, viel zu spät zu bremsen. Offensichtlich hat die Software seitdem keine großen Fortschritte gemacht.
Kissinger, Schmidt und Huttenlocher machen in ihrem Buch viel aus GPT-3, der neuesten Iteration eines KI-Projekts, das Wörter erzeugen kann, die der menschlichen Sprache sehr ähnlich sehen. Es hat viele schillernde Fähigkeiten und kann sogar glaubwürdige Prosa wie diese schreiben Wächter Artikel. Nun, nicht genau. Die Maschine spuckte acht verschiedene Versuche aus, die die Redakteure in einen veröffentlichbaren Artikel verwandelten, indem sie „die besten Teile von jedem“ heraussuchten. Und die Antworten von GPT-3 auf einfache Fragen sind oft albern, falsch und sogar rassistisch, aber diese peinlichen Teile werden selten in öffentlichen Demonstrationen präsentiert, sei es aus normalem Tech-Booster oder dem Wunsch, Risikokapitalgeber zu beeindrucken.
Lassen Sie uns für einen Moment kurz darauf hinweisen, dass KI etwas Großes ist, das unsere Lebensweise verändert. Schmidt und vor allem Kissinger machen sich Sorgen, was das für das Menschsein bedeutet. (Es ist seltsam, wenn der Architekt der geheimen Bombardierung Kambodschas zum Humanisten auf dem Programm wird, aber so ist die Politik von Eliteorganisationen.) In den nächsten 15 Jahren, so Schmidt, werden Computer zunehmend ihre eigenen Ziele bestimmen, Wege erkunden und produzieren Ergebnisse jenseits der Absicht oder des Verständnisses ihrer menschlichen Programmierer. Was wird das mit unserem Selbstverständnis machen, fragte Schmidt, „wenn wir nicht mehr die Spitze im Geheimdienst sind?“
Eine Antwort könnte sein: „Nun, vielleicht lassen Sie sie nicht dorthin gehen?“ Aber die Autoren werden nichts davon haben. „Sobald die Leistung der KI die des Menschen für eine bestimmte Aufgabe übertrifft, kann die Nichtanwendung dieser KI, zumindest als Ergänzung zu menschlichen Bemühungen, zunehmend als pervers oder sogar fahrlässig erscheinen“, erklären sie. Werden wir unsere Fähigkeiten zur Kriegsführung an Maschinen delegieren – nicht nur, um Waffen zu ihren Zielen zu führen, sondern zu entscheiden, ob wir überhaupt angreifen? Schmidt denkt offenbar so, räumt jedoch ein, dass es einige Komplexitäten gibt. „Sie befinden sich also in einem Krieg und der Computer berechnet richtig, dass Sie, um den Krieg zu gewinnen, zulassen müssen, dass Ihr Flugzeugträger versenkt wird, was zum Tod von 5.000 Menschen führen würde, oder was haben Sie …. Würde ein Mensch diese Entscheidung treffen? Mit ziemlicher Sicherheit nicht. Wäre der Computer dazu bereit? Absolut.”
In einer Rezension des Buches beklagt Marc Rotenberg, dass die ganze Skepsis Kissingers von der atlantisch Artikel verschwindet in der Techno-Euphorie von Schmidt und Huttenlocher. Das ist nicht ganz richtig; das Buch enthält gelegentliche Einbrüche von Kissingersche Düsternis und schwerfällige Grübeleien über Descartes und Spengler. Aber es ist größtenteils wahr, und er hat Recht, diese “perverse oder sogar fahrlässige” Passage als symptomatisch für die “unbestrittene Behauptung der Unvermeidlichkeit” der beiden Tech-Autoren herauszuheben.
Seltsamerweise fragte Rotenberg jedoch auf der CFR-Veranstaltung, wie KI gestaltet werden könnte, um „demokratische Prinzipien zu stärken“. Demokratie soll es um transparente Überlegungen und Debatten gehen, für die KI nicht gut zu passen scheint. Als Antwort überwies Schmidt zunächst Kissinger, einen Mann, dessen demokratisches Empfinden durch eine Bemerkung, die er im Vorfeld des Putsches gegen den demokratisch gewählten chilenischen Präsidenten Salvador Allende gemacht hatte, gut unterstrichen wurde: „Ich sehe nicht, warum wir aufstehen müssen“. und beobachten, wie ein Land aufgrund der Verantwortungslosigkeit seines eigenen Volkes kommunistisch wird.“ Zur demokratisierenden KI-Frage räumte Kissinger ein, keine Ahnung zu haben: “Ich denke, es muss untersucht werden, aber ich weiß noch nicht, wie ich es angehen soll.” Schmidt räumte ein, dass wir uns über das Thema Gedanken machen müssen, räumte jedoch ein, schwenkte jedoch schnell auf Kritik an Europas Vorliebe für Regulierung um.
Wenn man das Buch liest oder sich die CFR-Sitzung anhört, wird man entweder über die technischen Realitäten der KI oder ihre politischen Auswirkungen etwas klüger. Kissinger und Schmidt haben Recht, dass wir über diese Dinge sprechen müssen, aber ein imperialer Meisterarchitekt und das, was der Software-Ingenieur und KI-Skeptiker Dwayne Monroe als “einen Hype-Mann für eine super aufgeladene Werbefirma” bezeichnet, sind nicht diejenigen, die die Führung übernehmen Gespräch (obwohl Schmidt Google verlassen hat, besitzt er immer noch etwa 1 Prozent der Aktien des Unternehmens).
Mit den Worten des Informatikers Jonathan Bennett: „Die wirkliche Gefahr besteht nicht darin, dass KI übermenschliche Kräfte gewinnt, sondern dass wir davon überzeugt sind und ihr wichtige Denkaufgaben abtreten, die sie nicht erfüllen kann. Mit zunehmender Raffinesse der KI-Salontricks steigt auch diese Möglichkeit.“
KI-Projekte wie GPT-3 sollten, wie Luciano Floridi und Massimo Chiriatti argumentieren, als Werkzeuge angesehen werden, die Menschen verwenden können, und nicht als etwas, das ernsthaft der menschlichen Intelligenz ähnelt: „GPT-3 ist eine außergewöhnliche Technologie, aber so intelligent, bewusst, klug, bewusst, einfühlsam, einfühlsam, sensibel und vernünftig (usw.) wie eine alte Schreibmaschine.“ Diese Perspektive beizubehalten, anstatt sich der unvermeidlichen Dominanz unserer Siliziummeister zu ergeben, ist der Anfang.
Ein Trost: Es war befriedigend, Kissinger am Tag nach der Wahl eines Sozialisten zum Präsidenten Chiles zu hören – unter anderem durch das Versprechen, die fünf Jahrzehnte der Reaktion des Putsches rückgängig zu machen. Kissinger hat viel geplant. Ich wollte ihn danach fragen, aber nur CFR-Mitglieder dürfen bei diesen Veranstaltungen Fragen stellen. Journalisten sind nur als passive Gefäße da.