Der Mann, der die KI-Doomer-Bibel schrieb

DOom lauert herein Jeder Winkel und Winke von Richard Rhodes’ Heimbüro. Über seinem Schreibtisch hängt ein gerahmtes Foto von drei Männern in Militäruniformen. Sie spannen die Gurte an etwas fest, das zunächst wie zwei Warmwasserbereiter aussieht, in Wirklichkeit aber thermonukleare Waffen sind. An einer nahegelegenen Wand lehnt ein Schwarz-Weiß-Druck, der die erste Milliardstelsekunde nach der Detonation einer Atombombe zeigt: eine 300 Meter hohe geisterhafte Amöbe. Und über uns baumelt wie ein Damoklesschwert ein Plastikmodell der Hindenburg von der Decke.

Je nachdem, wie man es betrachtet, ist Rhodes‘ Büro entweder ein Schrein des beeindruckenden technologischen Fortschritts oder eine scharfe Erinnerung an seine Macht, uns alle im Handumdrehen zu verbrennen. Heute fühlt es sich an wie die Verbindung unserer kulturellen und technologischen Universen. Rhodes ist der 86-jährige Autor von Die Herstellung der Atombombe, ein mit dem Pulitzer-Preis ausgezeichnetes Buch, das für einen bestimmten Typ von KI-Forschern zu einer Art heiligem Text geworden ist – nämlich für den Typ, der glaubt, dass seine Kreationen die Macht haben könnten, uns alle zu töten. Am Freitagnachmittag wird er seinen Platz in einem Kino in West Seattle einnehmen und wie viele andere Kinogänger zuschauen Oppenheimer, Christopher Nolans Sommer-Blockbuster über das Manhattan-Projekt. (Der Film basiert nicht auf seinem Buch, obwohl er vermutet, dass sein Text als Recherchehilfe diente; er ist trotzdem gespannt darauf, ihn zu sehen.)

Lesen: Oppenheimer ist mehr als ein Schöpfungsmythos über die Atombombe

Ich bin zum ersten Mal darauf gestoßen Die Herstellung der Atombombe im März, als ich mit einem KI-Forscher sprach, der sagte, er schleppe jeden Tag das türstoppergroße Buch herum. (Es ist eine Erinnerung daran, dass sein Auftrag darin besteht, die Grenzen des technologischen Fortschritts zu erweitern, erklärte er – und ein Motivationsinstrument, um 17-Stunden-Tage zu arbeiten.) Seitdem habe ich gehört, dass das Buch in Podcasts erwähnt und in Gesprächen zitiert wurde, die ich mit Menschen geführt habe, die befürchten, dass künstliche Intelligenz uns alle zum Scheitern verurteilt. „Ich kenne jede Menge Leute, die an der KI-Politik arbeiten und Rhodes‘ Buch zur Inspiration gelesen haben.“ Voxschrieb kürzlich Dylan Matthews. A New York Times Das Profil des KI-Unternehmens Anthropic stellt fest, dass Rhodes‘ Buch „bei den Mitarbeitern des Unternehmens beliebt“ ist, von denen einige „sich mit den heutigen Robert Oppenheimern verglichen“.

Wie Oppenheimer vor ihnen glauben viele KI-Händler, dass ihre Kreationen den Lauf der Geschichte verändern könnten, und kämpfen daher mit tiefgreifenden moralischen Bedenken. Während sie die Technologie entwickeln, machen sie sich Sorgen darüber, was passieren wird, wenn die KI intelligenter wird als der Mensch und abtrünnig wird – eine spekulative Möglichkeit, die sich in eine unerschütterliche Neurose verwandelt hat, da generative KI-Modelle riesige Mengen an Informationen aufnehmen und immer leistungsfähiger erscheinen. Vor mehr als 40 Jahren machte sich Rhodes daran, den endgültigen Bericht über eine der folgenreichsten Errungenschaften der Menschheitsgeschichte zu schreiben. Heute wird es wie eine Bedienungsanleitung unter die Lupe genommen.

Rhodes ist selbst kein Doomer, aber er versteht die Parallelen zwischen der Arbeit in Los Alamos in den 1940er Jahren und dem, was heute im Silicon Valley passiert. „Oppenheimer sprach viel darüber, dass die Bombe sowohl eine Gefahr als auch eine Hoffnung darstellte“, erzählte mir Rhodes – sie könnte den Krieg beenden und gleichzeitig das Ende der Menschheit drohen. Er sagte, dass KI einen ebenso transformativen Effekt haben könnte wie die Kernenergie, und beobachtete mit Interesse, wie sich die größten Unternehmen des Silicon Valleys einen hektischen Wettbewerb um den Bau und Einsatz dieser Energie lieferten.

Lesen Sie: KI-Doomerismus ist ein Lockvogel

KI-Booster und -Entwickler würden sich zweifellos mit dem Argument trösten, das Rhodes einst im Vorwort zur 25-jährigen Jubiläumsausgabe seines Buches vorbrachte, dass die Entdeckung der Kernspaltung und damit der Bombe unvermeidlich sei. „Um es zu stoppen, hätte man die Physik stoppen müssen“, schreibt er. Dieses Argument spiegelt sich in der Rhetorik optimistischer KI-Unternehmen und Regierungen wider, die die Technologie als Teil eines globalen Informationswettrüstens betrachten. Demokratische Nationen können nicht innehalten oder darauf warten, dass die Gesetze nachholen, so die Logik, damit wir nicht gegen China oder eine andere feindliche Macht verlieren.

Diese Idee hilft zu erklären, warum ein Technologe ein KI-System konstruieren würde, obwohl er glaubt, dass es menschliches Leben auslöschen könnte – und das gilt auch für das Epigraph im ersten Abschnitt von Die Herstellung der Atombombe. Hier zitiert Rhodes Oppenheimer: „Es ist eine tiefgreifende und notwendige Wahrheit, dass die tiefgründigen Dinge in der Wissenschaft nicht gefunden werden, weil sie nützlich sind; Sie werden gefunden, weil es möglich war, sie zu finden.“

Als Technologiejournalist habe ich einen Großteil meiner Karriere damit verbracht, mich mit Menschen auseinanderzusetzen, die den Drang haben, etwas aufzubauen, ohne dass es Konsequenzen geben muss. Ich bin fasziniert und verblüfft über die Denkweise, die ich bei KI-Gründern und -Forschern beobachtet habe, die sagen, sie hätten Angst vor genau den Dingen, an deren Verwirklichung sie aktiv arbeiten. Es fiel mir schwer, dieses Persönlichkeitsmerkmal mit meinen eigenen Neigungen in Einklang zu bringen: zur Vorsicht, zu einer lähmenden Obsession mit Matrizen unbeabsichtigter Konsequenzen. Was ist das, fragte ich Rhodes. Was ist die verbindende Eigenschaft, die Menschen besitzt, um die Büchse der Pandora zu öffnen? Die Frage hing in der Luft, direkt unter dem baumelnden Modell der Hindenburg, während ich mir vorstellte, wie Rhodes in seinem Kopf eine Reihe von Interviews und eselsohrigen Biografien durchblätterte.

Er begann zu erklären. Jeder große Wissenschaftler habe „vor seinem 12. Lebensjahr“, sagte er, „eine prägende Erfahrung, die ihn in die Richtung trieb, in die er ging, und ihn zu der Entscheidung brachte, dass er den anstrengenden Prozess des Erlernens von Mathematik oder Naturwissenschaften durchlaufen wollte, bis er die Grenzen überschreiten konnte.“ Enrico Fermi, der Erfinder des ersten Kernreaktors und Chefarchitekt der Atombombe, verlor als Teenager einen geliebten Bruder und entwickelte nicht lange danach eine Obsession für die Messung und Quantifizierung aller Bereiche seines Lebens. „Er konnte Ihnen sagen, wie viele Schritte er die Straße entlang gegangen war“, sagte Rhodes. „Er wirkte so sehr wie jemand, der in Zahlen die Art von Gewissheit fand, die er verloren hatte, als er seinen Bruder verlor.“ Als 10-Jähriger war Leo Szilard von einem ungarischen Epos über das Untergehen der Sonne so verstört gewesen, dass er sich auf Raketen als Mittel zur Rettung des Planeten konzentrierte, sagte Rhodes – eine Suche, die ihn schließlich zur Entdeckung der nuklearen Kettenreaktion führte.

„Es ist kein Zufall, dass so viele Menschen, die in das Bombenprogramm verwickelt wurden, Juden waren, die aus Nazi-Deutschland geflohen waren“, sagte er. „Sie hatten gesehen, was dort passierte, sie waren überall in der Nähe und wussten, dass es schrecklich und erschreckend war und gestoppt werden musste.“ Rhodes sieht auch in seinem eigenen Werk die Schatten seiner Kindheit, die von körperlicher Misshandlung und Hunger durch seine Stiefmutter geprägt war: „Es ist nicht verwunderlich, dass sich alle meine Bücher in irgendeiner Weise um menschliche Gewalt und den Umgang damit drehen, da ich ein Experte auf diesem Gebiet bin.“

Vielleicht ist dies eine weitere Lektion in Sachen Dualität – im Großen und Ganzen sind unsere Albträume und Träume ein einziges Ganzes. Wenn es ein Konzept gibt, das Rhodes von KI-Forschern und -Gründern übernehmen soll Die Herstellung der Atombombees ist die Vorstellung von Komplementarität. Hierbei handelt es sich um eine Idee aus der Quantenphysik, die der mit dem Nobelpreis ausgezeichnete dänische Physiker Niels Bohr entwickelt hat, der laut Rhodes nach Los Alamos reiste, um Oppenheimer in den dunkelsten Tagen des Manhattan-Projekts zu vermitteln. Ganz einfach ausgedrückt beschreibt Komplementarität, dass Objekte widersprüchliche Eigenschaften haben, die nicht gleichzeitig beobachtet werden können. Die Welt enthält eine Vielzahl.

Bohr entwickelte laut Rhodes aus dieser Beobachtung eine ganze philosophische Weltanschauung. Es läuft auf die Vorstellung hinaus, dass eine schreckliche Waffe gleichzeitig ein wunderbares Werkzeug sein könnte. „Bohrs Idee brachte Los Alamos Hoffnung“, sagte Rhodes. „Er sagte den Physikern, die über diese Massenvernichtungswaffe besorgt waren, dass diese Sache diese Kriegsbedingungen und damit die gesamte Struktur der internationalen Politik verändern werde. Es könnte entweder den Krieg ganz beenden oder die Welt zerstören. Ersteres gab ihnen Hoffnung.“

Die große Lektion besteht aus Rhodes‘ Sicht darin, dass man möglicherweise eine apokalyptische Waffe baut, die sich als fehlerhafter Träger eines prekären Friedens herausstellt. Aber das Gegenteil könnte auch der Fall sein: Ein Werkzeug, das darauf ausgelegt ist, das menschliche Gedeihen aufrechtzuerhalten, könnte eine Katastrophe herbeiführen. Und so besteht für Rhodes die wahre Angst in Bezug auf KI einfach darin, dass wir uns auf einem undefinierten Weg befinden, dass wir uns zu schnell bewegen und Systeme schaffen, die möglicherweise ihren beabsichtigten Zwecken zuwiderlaufen: Produktivitätsinstrumente, die am Ende Arbeitsplätze zerstören; Synthetische Medien, die letztendlich die Grenzen zwischen menschengemachtem und maschinell hergestelltem, zwischen Tatsache und Halluzination verwischen. „Das Besorgniserregendste daran ist, wie wenig Zeit die Gesellschaft damit aufnehmen und sich daran anpassen muss“, sagte Rhodes über den Aufstieg der KI.

Auf dem Weg aus seinem Büro bleibt Rhodes stehen, um mir ein Glas in der Größe einer Filmdose zu zeigen, in dem sich scheinbar ein paar Steine ​​befinden. Auf einem verblassten, maschinengeschriebenen Etikett steht: Trinitit, der Name für die Rückstände, die nach dem Trinity-Atombombentest im Juli 1945 vom Wüstenboden in New Mexico abgekratzt wurden. Die Explosion war so heiß, dass sie den Sand in Glas verwandelte. „Ziemlich gruselig, nicht wahr?“ Sagte Rhodes mit einem Lächeln. Mir ist jetzt klar, warum er diese Relikte so nah bei sich behält. Sie sind die physische Manifestation von Bohrs Philosophie und die Leitlinie vieler Arbeiten von Rhodes – Komplementarität als Innenarchitektur. Eine Erinnerung daran, dass die Freude und der Schrecken sowohl der natürlichen Welt als auch der Welt, die wir uns selbst erschaffen, in der Tatsache liegt, dass sich nur sehr wenig so verhält, wie wir es erwarten. So sehr wir uns auch bemühen, wir können nicht alles gleichzeitig beobachten. Es ist eine Erinnerung an die Aufregung und den Schrecken, die dem unlösbaren Geheimnis des Lebens innewohnen.