ChatGPT, der im Internet bekannte KI-Textgenerator, hat eine neue Form angenommen. Einst eine Website, die Sie besuchen konnten, ist es heute ein Dienst, den Sie in Software aller Art integrieren können, von Tabellenkalkulationsprogrammen über Liefer-Apps bis hin zu Zeitschriften-Websites wie dieser. Snapchat hat ChatGPT zu seinem Chat-Dienst hinzugefügt (es schlug vor, dass Benutzer „Kannst du mir ein Haiku über meinen käsebesessenen Freund Lukas schreiben?“ eingeben), und Instacart plant, einen Rezeptroboter hinzuzufügen. Viele weitere werden folgen.
Sie werden seltsamer sein, als Sie vielleicht denken. Anstelle einer großen KI-Chat-App, die Wissen oder Käsepoesie liefert, wird der ChatGPT-Dienst (und andere ähnliche) zu einer KI-Konfetti-Bombe, die an allem haftet. KI-Text in Ihrer Lebensmittel-App. KI-Text in Ihrer Kursunterlage zur Einhaltung von Vorschriften am Arbeitsplatz. AI-Text in Ihrer HLK-Anleitung. KI-Text überall – sogar später in diesem Artikel – dank einer API.
API ist eines dieser aus drei Buchstaben bestehenden Akronyme, mit denen Computerleute herumwerfen. Es steht für „Application Programming Interface“: Es ermöglicht Softwareanwendungen, miteinander zu kommunizieren. Das ist nützlich, da Software häufig die Funktionalität anderer Software nutzen muss. Eine API ist wie ein Zustelldienst, der Nachrichten zwischen Computern weiterleitet.
Trotz seines Namens ist ChatGPT nicht wirklich ein Plaudern Service – das ist nur die Erfahrung, die dank des popkulturellen Erfolgs des Chatbots am vertrautesten geworden ist. „Der Name trägt Chat, aber es ist wirklich ein viel besser kontrollierbares Modell“, sagte mir Greg Brockman, Mitbegründer und Präsident von OpenAI. Er sagte, die Chat-Oberfläche biete dem Unternehmen und seinen Benutzern eine Möglichkeit, sich daran zu gewöhnen, Computer zu bitten, Probleme zu lösen, und ein Gefühl dafür zu entwickeln, wie man durch Iteration bessere Antworten auf diese Probleme erbitten kann.
Aber Chat ist mühsam zu benutzen und unheimlich, sich damit zu beschäftigen. „Sie wollen Ihre Zeit nicht damit verbringen, mit einem Roboter zu reden“, sagte Brockman. Er sieht darin „die Spitze eines Eisbergs“ möglicher zukünftiger Nutzungen: ein „Allzweck-Sprachsystem“. Das bedeutet, dass ChatGPT als Dienst (eher als eine Website) zu einem System zum Erstellen und Einfügen von Text in Dinge, die Text enthalten, heranreifen kann.
Als Autorin für eine Zeitschrift, die sich definitiv mit dem Erstellen und Einfügen von Text beschäftigt, wollte ich herausfinden, wie Der Atlantik die ChatGPT-API verwenden könnte, und um zu demonstrieren, wie sie im Kontext aussehen könnte. Die erste und offensichtlichste Idee war, eine Art Chat-Schnittstelle für den Zugriff auf Zeitschriftenartikel zu erstellen. Reden mit Der Atlantik, Inhalt bekommen. Also fing ich an, einige Ideen auf ChatGPT (der Website) zu testen, um herauszufinden, wie wir ChatGPT (die API) integrieren könnten. Eine Idee: eine einfache Suchmaschine, die auftauchen würde atlantisch Geschichten zu einem gewünschten Thema.
Aber als ich anfing, diese Idee auszuprobieren, ging es schnell schief. Ich bat ChatGPT, „finde mir eine Geschichte in Der Atlantik about tacos“, und es kam dem nach, indem es eine Geschichte meiner Kollegin Amanda Mull, „The Enduring Appeal of Tacos“, zusammen mit einem Link und einer Zusammenfassung anbot (es begann: „In diesem Artikel untersucht die Autorin Amanda Mull die kulturelle Bedeutung von Tacos und warum sie weiterhin ein beliebtes Lebensmittel sind.“). Einziges Problem: Diese Geschichte existiert nicht. Die URL sah plausibel aus, führte aber nirgendwo hin, weil Mull die Geschichte nie geschrieben hatte. Als ich die KI wegen ihres Fehlers anrief, entschuldigte sich ChatGPT und bot eine Ersatzgeschichte an: „Why Are American Kids So Obsessed With Tacos?“ – die ebenfalls komplett erfunden ist. Huch.
Wie kann jemand erwarten, KI genug zu vertrauen, um sie automatisiert einzusetzen? Laut Brockman müssen Organisationen wie die unsere eine Erfolgsbilanz mit Systemen wie ChatGPT aufbauen, bevor wir uns wohlfühlen, sie wirklich zu verwenden. Brockman erzählte mir, dass seine Mitarbeiter bei OpenAI viel Zeit mit dem „Red Teaming“ ihrer Systeme verbringen, ein Begriff aus Cybersicherheit und Intelligenz, der den Prozess bezeichnet, einen Gegner zu spielen, um Schwachstellen zu entdecken.
Brockman behauptet, dass sich Sicherheit und Kontrollierbarkeit im Laufe der Zeit verbessern werden, aber er ermutigt potenzielle Benutzer der ChatGPT-API, als ihre eigenen Red Teamer zu agieren – um potenzielle Risiken zu testen – bevor sie sie einsetzen. „Du willst wirklich klein anfangen“, sagte er mir.
Fair genug. Wenn Chat kein notwendiger Bestandteil von ChatGPT ist, dann könnte vielleicht ein kleineres, chirurgischeres Beispiel die Arten von Verwendungen veranschaulichen, die die Öffentlichkeit erwarten kann. Eine Möglichkeit: Eine Zeitschrift wie die unsere könnte unsere Texte so anpassen, dass sie automatisch auf das Leserverhalten reagieren oder Informationen auf einer Seite ändern.
Während ich diesen Absatz schreibe, weiß ich nicht, was der vorherige sagt. Es wird vollständig von der ChatGPT-API generiert – ich habe keine Kontrolle darüber, was es schreibt. Ich hoffe einfach, basierend auf den vielen Tests, die ich für diese Art von Abfrage durchgeführt habe, dass ich darauf vertrauen kann, dass das System erklärende Kopien erstellt, die den Ruf des Magazins nicht gefährden, weil ChatGPT abtrünnig wird. Die API könnte beispielsweise eine Schlagzeile zu einem ernsten Thema aufnehmen und sie auf respektlose Weise verwenden.
In einigen meiner Tests waren die Antworten von ChatGPT kohärent und bauten Ideen flink ein. In anderen waren sie abgedroschen oder inkohärent. Es ist nicht abzusehen, welche Sorte oben erscheinen wird. Wenn Sie die Seite ein paar Mal aktualisieren, werden Sie sehen, was ich meine. Da ChatGPT oft unterschiedlichen Text aus derselben Eingabe erzeugt, erhält ein Leser, der diese Seite direkt nach Ihnen lädt, wahrscheinlich eine andere Version des Textes, als Sie jetzt sehen.
Medienunternehmen erstellen seit Jahren Bot-geschriebene Geschichten, die Sportergebnisse, Erdbebenberichte und andere vorhersehbare Daten präsentieren. Aber jetzt ist es möglich, Texte zu jedem Thema zu generieren, weil große Sprachmodelle wie ChatGPTs das ganze Internet gelesen haben. Einige Anwendungen dieser Idee werden in neuen Arten von Textverarbeitungsprogrammen erscheinen, die festen Text zur späteren Veröffentlichung als gewöhnlichen Inhalt erzeugen können. Aber auch Live-Schreiben, das sich von Moment zu Moment ändert, wie in dem Experiment, das ich auf dieser Seite durchgeführt habe, ist möglich. Eine Publikation möchte möglicherweise ihre Prosa als Reaktion auf aktuelle Ereignisse, Benutzerprofile oder andere Faktoren anpassen. Das gesamte Internet für Verbraucherinhalte wird durch Appelle an Personalisierung und Eitelkeit getrieben, und die Content-Industrie sucht verzweifelt nach Wettbewerbsvorteilen. Aber auch andere Anwendungsfälle sind möglich: Prosa zum Beispiel, die automatisch aktualisiert wird, wenn sich ein aktuelles Ereignis abspielt.
Obwohl einfach, enthüllt unser Beispiel eine wichtige und erschreckende Tatsache darüber, was jetzt mit generativer, textbasierter KI möglich ist: Sie können nicht länger davon ausgehen, dass eines der Wörter, die Sie sehen, von einem Menschen geschaffen wurde. Sie können nicht wissen, ob das, was Sie lesen, absichtlich geschrieben wurde, noch können Sie wissen, ob es erstellt wurde, um Sie zu täuschen oder irrezuführen. ChatGPT hat Ihnen vielleicht den Eindruck vermittelt, dass KI-Text von einem Chatbot stammen muss, aber tatsächlich kann er unsichtbar erstellt und Ihnen anstelle von oder vermischt mit menschlicher Sprache präsentiert werden.
Das Ausführen dieser Art von Aktivität ist nicht so einfach wie das Eintippen in ein Textverarbeitungsprogramm – noch – aber das ist bereits einfach genug Der Atlantik Das Produkt- und Technologieteam konnte es in etwa einem Tag zum Laufen bringen. Mit der Zeit wird es noch einfacher. (Für mich als Mensch hat es viel länger gedauert, den Rest der Geschichte zu schreiben und zu redigieren, über die moralischen und rufbezogenen Überlegungen nachzudenken, sie tatsächlich zu veröffentlichen, und das System mit Redaktion, Recht und IT zu überprüfen.)
Dieser Umstand wirft einen Schatten auf Greg Brockmans Rat, „klein anzufangen“. Es ist eine gute, aber unzureichende Anleitung. Brockman sagte mir, dass die Interessen der meisten Unternehmen mit einer solchen Sorgfalt und einem solchen Risikomanagement übereinstimmen, und das gilt sicherlich für eine Organisation wie Der Atlantik. Aber nichts hält schlechte Schauspieler (oder faule oder von einem wahrgenommenen KI-Goldrausch motivierte) davon ab, Apps, Websites oder andere Softwaresysteme einzuführen, die generierten Text in großen Mengen erstellen und veröffentlichen, abgestimmt auf den Zeitpunkt, an dem die Generierung stattfand oder die Person, auf die sie abzielt. Brockman sagte, dass Regulierung ein notwendiger Teil der Zukunft von KI sei, aber KI geschieht jetzt, und staatliche Eingriffe werden nicht sofort erfolgen, wenn überhaupt. Joghurt ist wahrscheinlich stärker reguliert als KI-Text jemals sein wird.
Einige Organisationen setzen möglicherweise generative KI ein, auch wenn sie niemandem einen wirklichen Nutzen bringt, nur um zu versuchen, auf dem Laufenden zu bleiben oder an einem vermeintlichen KI-Wettrüsten teilzunehmen. Wie ich bereits geschrieben habe, wird diese Nachfrage neue Aufgaben für alle schaffen, da Personen, die zuvor damit zufrieden waren, Software oder Artikel zu schreiben, nun Zeit für das Red-Teaming von Widgets für generative Inhalte, die Überwachung von Softwareprotokollen auf Probleme und Eingriffe in die Rechtsabteilung aufwenden müssen Abteilungen oder alle anderen Arten von Aufgaben, die bisher nicht vorstellbar waren, weil Wörter nur Wörter waren und nicht Maschinen, die sie erstellten.
Brockman sagte mir, dass OpenAI daran arbeitet, die Vorteile der KI zu verstärken und gleichzeitig ihre Schäden zu minimieren. Aber einige seiner Schäden könnten eher strukturell als aktuell sein. Matthew Kirschenbaum, der Anfang dieser Woche auf diesen Seiten schrieb, sagte eine Textpokalypse voraus, eine undenkbare Flut generativer Kopien, „in der maschinengeschriebene Sprache zur Norm und von Menschen geschriebene Prosa zur Ausnahme wird“. Es ist eine reißerische Idee, aber es fehlen ein paar Dinge. Zum einen kostet die Verwendung einer API Geld – Bruchteile eines Cents für kleine Abfragen wie die einfache in diesem Artikel, aber all diese Bruchteile summieren sich. Noch wichtiger ist, dass das Internet es der Menschheit im letzten Vierteljahrhundert ermöglicht hat, eine riesige Flut von Texten auf Websites, Apps und Social-Media-Diensten zu veröffentlichen – genau die gleichen Inhalte, die ChatGPT geschlürft hat, um sein Modell voranzutreiben. Die Textpokalypse ist bereits passiert.
Ebenso wahrscheinlich wird die Menge der generierten Sprache weniger wichtig als der ungewisse Status eines einzelnen Textblocks. So wie menschliche Gefühle online, losgelöst von den Kontexten ihrer Urheberschaft, mehrdeutige oder mehrdeutige Bedeutungen annehmen, so wird jeder Satz und jeder Absatz bald mit einem Pochen der Ungewissheit ankommen: eine implizite, existentielle Frage nach der Natur seiner Urheberschaft. Schließlich kann dieses Pochen zu einem dumpfen Summen und dann zu einer vertrauten Stille werden. Die Leser werden mit den Schultern zucken: Es ist einfach so, wie die Dinge jetzt sind.
So wie mich diese Ängste packen, so auch die Hoffnung – oder zumindest Faszination – auf eine Gelegenheit, auf völlig neue Weise zu komponieren. Ich bin nicht bereit, das Schreiben aufzugeben, und ich erwarte auch nicht, dass ich es in absehbarer Zeit tun muss – oder jemals. Aber ich bin verführt von der Aussicht, eine Handvoll oder hundert kleine Computerautoren in meine Arbeit einzubringen. Anstatt (nur) ein Wort nach dem anderen zu setzen, machen es die ChatGPT-API und ihre Verwandten möglich, kleine Gremlins in meiner Prosa hervorzubringen, die in meiner Abwesenheit arbeiten und neuartige Textreste hinterlassen, lange nachdem ich die Seite verlassen habe. Mal sehen, was sie können.