Wenn Science-Fiction Jahre später noch einmal aufgegriffen wird, wirkt sie manchmal gar nicht so fiktiv. Spekulative Romane haben eine beeindruckende Erfolgsbilanz darin, vorherzusagen, welche Innovationen kommen werden und wie sie die Welt auf den Kopf stellen könnten: HG Wells schrieb Jahrzehnte vor dem Zweiten Weltkrieg über eine Atombombe, und Ray Bradburys Roman von 1953: Fahrenheit 451verfügt über Geräte, die wir heute als Bluetooth-Ohrhörer bezeichnen würden.
Vielleicht war kein Schriftsteller hellsichtiger in Bezug auf unser aktuelles technologisches Zeitalter als Neal Stephenson. Seine Romane prägten den Begriff Metaversum, legte den konzeptionellen Grundstein für die Kryptowährung und stellte sich einen geotechnischen Planeten vor. Und fast drei Jahrzehnte vor der Veröffentlichung von ChatGPT kündigte er die aktuelle KI-Revolution an. Ein Kernelement eines seiner frühen Romane, Das Diamantenzeitalter: Oder die illustrierte Fibel einer jungen Dameist ein magisches Buch, das als persönlicher Tutor und Mentor für ein junges Mädchen fungiert und sich an ihren Lernstil anpasst – im Wesentlichen ist es ein personalisierter und hochentwickelter Chatbot. Der titelgebende Primer spricht laut mit der Stimme eines echten Schauspielers, der als „Ractor“ bekannt ist, und erinnert daran, dass die heutige generative KI, wie viele digitale Technologien, in hohem Maße von der kreativen Arbeit des Menschen abhängt.
Stephensons 1995 veröffentlichtes Buch untersucht eine Zukunft nahtloser, sofortiger digitaler Kommunikation, in der winzige Computer mit immensen Fähigkeiten in den Alltag integriert werden. Unternehmen sind dominant, Nachrichten und Werbung sind zielgerichtet und Bildschirme sind allgegenwärtig. Es ist eine Welt voller starker Klassen- und Kulturunterschiede (der Roman folgt einer mächtigen aristokratischen Sekte, die sich selbst als „Neo-Viktorianer“ bezeichnet), aber es ist dennoch eine Welt, in der der Primer als das Beste präsentiert wird, was Technologie sein kann.
Von Neal Stephenson
Aber Stephenson ist in Bezug auf die heutige KI weitaus pessimistischer als in Bezug auf den Primer. „Ein Chatbot ist kein Orakel“, sagte er mir letzten Freitag über Zoom. „Es ist eine Statistik-Engine, die Sätze erstellt, die korrekt klingen.“ Ich habe mit Stephenson über sein unheimlich vorausschauendes Buch und die scheinbar begonnene generative KI-Revolution gesprochen.
Dieses Gespräch wurde aus Gründen der Länge und Klarheit bearbeitet.
Matteo Wong: Die illustrierte Fibel der jungen Dame ist ein Buch, das sich an ein junges Mädchen anpasst und es unterrichtet, was mit der Vision von KI-Chatbots und Assistenten übereinstimmt, die viele Unternehmen für die nahe Zukunft haben. Wollten Sie bei der Vorstellung des Primers die Idee einer intelligenten Maschine erforschen?
Neal Stephenson: Die Idee kam mir, nachdem wir ein Kind bekamen und dieses Mobile bekamen, das über dem Kinderbett hängen sollte. Es hatte sehr primitive, einfache Formen, weil ihr Sehsystem als Neugeborene noch nicht in der Lage ist, feine Details aufzulösen. Es gäbe also ein Quadrat, ein Dreieck und einen Kreis. Und dann, nach einer bestimmten Anzahl von Tagen oder Wochen, sollte man diese Karten aus dem Handy nehmen und ein anderes Set einsetzen, das besser zu den Fähigkeiten ihres Gehirns in diesem Alter passte. Das hat mich gerade zum Nachdenken gebracht: Was wäre, wenn Sie diese Idee auf jede andere Form des intellektuellen Wachstums übertragen würden?
Die Technologie, die dem Buch zugrunde liegt, war nicht wirklich KI, wie wir sie heute verstehen – ich habe mit Leuten gesprochen, die an einigen der zugrunde liegenden Technologien arbeiteten, die für eine sichere und anonyme Kommunikation im Internet erforderlich wären. Ich schätze, es ist implizit, dass es eine KI gibt, die die Geschichte generiert und den Grad der Komplexität als Reaktion auf die Lernkurve des Kindes erhöht, aber ich bin nicht wirklich darauf eingegangen; Ich habe einfach angenommen, dass es dort sein würde.
Wong: Viele Unternehmen – OpenAI, Google, Meta, um nur einige zu nennen – haben heute erklärt, dass sie KI-Assistenten entwickeln wollen, die sich an jeden Benutzer anpassen, ähnlich wie der Primer als Lehrer fungiert. Sehen Sie in den generativen KI-Modellen von heute etwas, das dem Primer ähnelt oder eines Tages so werden könnte?
Stephenson: Vor etwa einem Jahr habe ich mit einem Start-up zusammengearbeitet, das KI-Charaktere in Videospielen herstellt. Ich fand es aufgrund der Halluzinationen lohnend und faszinierend: Ich konnte sehen, wie aus der Suppe der Eingaben, die ihm zugeführt wurden, neue Muster entstanden. Das Gleiche, was ich als Funktion betrachte, ist in den meisten Anwendungen ein Fehler. Wir haben bereits Beispiele von Anwälten gesehen, die ChatGPT zur Erstellung juristischer Dokumente verwenden, und die KI hat lediglich vergangene Fälle und Präzedenzfälle erfunden, die völlig plausibel schienen. Wenn man über die Idee nachdenkt, diese Modelle in der Bildung zu nutzen, wird auch das zu einem Fehler. Was sie tun, ist, Sätze zu generieren, die wie korrekte Sätze klingen, aber es gibt kein zugrunde liegendes Gehirn, das tatsächlich erkennen kann, ob diese Sätze korrekt sind oder nicht.
Denken Sie an ein Konzept, das wir jemandem beibringen möchten – zum Beispiel den Satz des Pythagoras. Es muss online Tausende von alten und neuen Erklärungen zum Satz des Pythagoras geben. Was wir wirklich brauchen, ist, den Lernstil jedes einzelnen Kindes zu verstehen, damit wir es sofort mit dem aus Tausenden verbinden können, der am besten zu seinem Lernstil passt. Für mich klingt das wie ein KI-Projekt, aber es ist eine andere Art von KI-Anwendung als DALL-E oder große Sprachmodelle.
Wong: Und doch werden diese Sprachmodelle, die grundsätzlich Wörter in einer Reihenfolge vorhersagen, heute in vielen Bereichen angewendet, in denen sie keine speziellen Fähigkeiten besitzen – GPT-4 für die medizinische Diagnose, Google Bard als Tutor. Das erinnert mich an einen Begriff, der im Buch anstelle von verwendet wird künstliche Intelligenz, Pseudointelligenzwas viele Kritiker der Technologie heute zu schätzen wissen dürften.
Stephenson: Das hatte ich vergessen. Der Running Gag dieses Buches bestand darin, viktorianische Diktion und Vorurteile auf High-Tech-Dinge anzuwenden. Was mir wahrscheinlich durch den Kopf ging, war, dass die Viktorianer den Begriff schief betrachten würden künstliche Intelligenz, weil sie sich über die Idee ärgern würden, dass Computer das menschliche Gehirn ersetzen könnten. Daher würden sie die Idee wahrscheinlich als Simulation oder „Pseudo“-Intelligenz einstufen wollen, im Gegensatz zur Realität.
Wong: Vor etwa einem Jahr in einem Interview mit der Financial TimesSie haben die Ergebnisse der generativen KI als „hohl und uninteressant“ bezeichnet. Warum war das so und hat sich Ihre Einschätzung geändert?
Stephenson: Ich vermute, dass ich bei diesen Bemerkungen den aktuellen Stand der Bilderzeugungstechnologie im Sinn hatte. Es gab ein paar Dinge, die mich daran irritiert haben, das Wichtigste ist, dass sie von der nicht im Abspann aufgeführten Arbeit Tausender echter menschlicher Künstler profitieren. Ich übertreibe etwas, aber es scheint, als ob eine der ersten Anwendungen einer neuen Technologie die Dinge für Künstler noch beschissener macht. Das ist bei der Musik sicherlich passiert. Diese Bilderzeugungssysteme schienen einfach in einem unvorstellbaren Ausmaß mechanisiert und bewaffnet zu sein.
Ein weiterer Teil davon war, dass viele Leute, die sich schon früh dafür interessierten, einfach riesige Mengen an Material generierten und diese dann wohl oder übel ins Internet stellten. Wenn Ihre einzige Möglichkeit, ein Gemälde anzufertigen, darin besteht, Farbe mühsam auf eine Leinwand zu tupfen, kann das Ergebnis schlecht oder gut sein, aber zumindest ist es das Ergebnis einer ganzen Reihe von Mikroentscheidungen, die Sie als Künstler getroffen haben. Sie haben bei jedem Pinselstrich Ihr redaktionelles Urteilsvermögen geübt. Das fehlt in der Ausgabe dieser Programme.
Wong: Selbst in Das Diamantzeitalter, Der Primer scheint einen Kommentar zur Arbeit und Technologie von Künstlern zu liefern, was für die heutige generative KI von großer Bedeutung ist. Die Fibel unterrichtet ein Mädchen, aber ein menschlicher Schauspieler, der digital mit dem Buch verbunden ist, muss den Text laut aussprechen.
Stephenson: Wenn Sie ein herkömmlicher Schauspieler auf der Bühne oder im Film sind, stehen Sie vor der Kamera, treten einmal auf und dann können viele Kopien angefertigt werden. Ich dachte, dass es sich bei dem Buch um eine ziemlich positive Zukunftsvision handelt, in der wir über die Technologie verfügen, die es Synchronsprechern ermöglichen würde, jederzeit Live-Auftritte auf Abruf zu geben. Selbst bei den heutigen Stimmklonen gibt es, wenn man es auf das einfachste Element herunterbricht, immer noch einen Menschen, der vor einem Mikrofon saß und dieses Material lieferte. Obwohl ich denke, dass ein System wie der Primer möglicherweise nicht live funktioniert; Sie würden wahrscheinlich eine gewisse Verzögerung haben – die KI generiert den Text und sendet ihn an den Ractor, und dann muss der Ractor ihn lesen.
Wong: Und in dem Ausmaß, in dem einige der heutigen KI-Programme operieren, gäbe es einfach nicht genug Leute dafür.
Stephenson: Das Szenario, das ich dargelegt habe Das Diamantzeitalter liegt darin, dass die Reaktoren eine knappe Ressource sind und der Primer daher eher ein Luxusprodukt ist. Aber irgendwann fällt der Quellcode für das Buch in die Hände eines Mannes, der es in großem Maßstab herstellen will, und es gibt nicht genug Geld und nicht genug Schauspieler auf der Welt, um all diesen Büchern die Stimme zu geben, also zu diesem Zeitpunkt beschließt, automatisch generierte Stimmen zu verwenden.
Wong: Ein weiteres Thema des Romans ist, wie verschiedene sozioökonomische Schichten Zugang zu Bildung haben. Die Fibel ist für einen Aristokraten konzipiert, aber Ihr Roman zeichnet auch die Geschichten von Mädchen aus der Mittel- und Arbeiterklasse nach, die mit Versionen des Buches interagieren. Derzeit ist ein Großteil der generativen KI kostenlos, aber der Betrieb der Technologie ist auch sehr teuer. Wie könnte sich Ihrer Meinung nach der Zugang zu generativer KI auswirken?
Stephenson: In dem Buch, das in der Zeit Mitte der 90er Jahre geschrieben wurde, als das Internet online ging, steckte ein wenig früher Internet-Utopismus. Man ging tendenziell davon aus, dass, wenn das gesamte Wissen der Welt online verfügbar ist, jeder darauf zugreifen wird. Es stellt sich heraus, dass, wenn man allen Zugang zur Library of Congress gewährt, sie sich nur Videos auf TikTok ansehen. Das Diamantzeitalter spiegelt die gleiche Naivität wider, die ich damals mit vielen anderen Menschen darüber teilte, welche Auswirkungen all dieses Wissen auf die Gesellschaft haben würde.
Wong: Glauben Sie, dass wir heute etwas von dieser Naivität bei Menschen beobachten, die sich mit der Frage befassen, wie generative KI eingesetzt werden kann?
Stephenson: Sicher. Es basiert auf einem verständlichen Missverständnis darüber, was diese Dinge tun. Ein Chatbot ist kein Orakel; Es handelt sich um eine Statistik-Engine, die Sätze erstellt, die korrekt klingen. Im Moment habe ich das Gefühl, dass es so ist, als hätten wir gerade Transistoren erfunden. Wir haben ein paar Verbraucherprodukte, die die Leute gerade erst annehmen, wie zum Beispiel das Transistorradio, aber wir wissen noch nicht, wie der Transistor die Gesellschaft verändern wird. Wir befinden uns im Transistor-Radio-Stadium der KI. Ich glaube, dass derzeit in der Branche viel Unruhe herrscht, weil Risikokapitalgeber Geld in Geschäftspläne stecken und Teams schnell eine ganze Reihe verschiedener Dinge bewerten, die gut gemacht werden könnten. Ich bin mir sicher, dass einige Dinge passieren werden, die ich nicht vorherzusagen wage, denn die Ergebnisse der kreativen Begeisterung von Millionen von Menschen sind immer interessanter als das, was sich ein einzelner Mensch vorstellen kann.
Wenn Sie über einen Link auf dieser Seite ein Buch kaufen, erhalten wir eine Provision. Danke für die Unterstützung Der Atlantik.