Wenn Sie die Philosophie verstehen möchten, die dem jüngsten Goldrausch im Silicon Valley zugrunde liegt, ist das Scarlett-Johansson-Debakel von OpenAI genau das Richtige für Sie. Laut Johanssons Anwälten läuft die Geschichte so ab: Vor neun Monaten wandte sich OpenAI-CEO Sam Altman an die Schauspielerin mit der Bitte, ihre Stimme für einen neuen digitalen Assistenten zu lizenzieren; Johansson lehnte ab. Sie behauptet, dass Altman sich nur zwei Tage vor der Keynote-Veranstaltung des Unternehmens letzte Woche, bei der dieser Assistent als Teil eines neuen Systems namens GPT-4o vorgestellt wurde, an Johanssons Team gewandt und den Schauspieler aufgefordert hat, es sich noch einmal zu überlegen. Johansson und Altman haben angeblich nie gesprochen, und Johansson hat OpenAI angeblich nie die Erlaubnis erteilt, ihre Stimme zu verwenden. Dennoch brachte das Unternehmen zwei Tage später Sky auf den Markt – ein Programm, dessen Stimme nach Ansicht vieler der von Johansson erschreckend ähnlich war.
Johansson sagte gegenüber NPR, sie sei „schockiert, verärgert und ungläubig darüber, dass Herr Altman eine Stimme verfolgen würde, die meiner so unheimlich ähnlich klang.“ Als Reaktion darauf gab Altman eine Erklärung ab, in der er bestritt, dass das Unternehmen ihre Stimme geklont habe, und erklärte, dass es bereits einen anderen Synchronsprecher besetzt habe, bevor es sich an Johansson gewandt habe. (Ich möchte Sie ermutigen, selbst zuzuhören.) Kurioserweise sagte Altman, dass OpenAI „aus Respekt“ vor Johansson die Stimme von Sky von seiner Plattform entfernen würde. Dies ist eine chaotische Situation für OpenAI, die durch Altmans eigene Social-Media-Beiträge erschwert wird. An dem Tag, an dem OpenAI den ChatGPT-Assistenten veröffentlichte, veröffentlichte Altman auf verliebt in. Altmans Beitrag ist ziemlich vernichtend, was bedeutet, dass Altman sich der Ähnlichkeiten zwischen Skys Stimme und Johanssons Stimme bewusst war und sogar stolz darauf war.
Für sich genommen scheint dies ein weiteres Beispiel dafür zu sein, wie ein Technologieunternehmen ethische Bedenken ignoriert und ungestraft operiert. Aber die Situation ist auch ein kleiner Mikrokosmos des schlechten Geschäfts im Zentrum der generativen KI, einer Technologie, die auf Daten basiert, die aus dem Internet stammen, in der Regel ohne die Zustimmung der Urheber oder Urheberrechtsinhaber. Mehrere Künstler und Verleger, darunter Die New York Times, haben aus diesem Grund KI-Unternehmen verklagt, aber die Technologiefirmen bleiben ungestraft und machen Ausflüchte, wenn sie unverblümt nach der Herkunft ihrer Trainingsdaten gefragt werden. Im Kern liegt diesen Ablenkungen eine Implikation zugrunde: Die hypothetische Superintelligenz, die sie aufbauen, ist zu groß, zu weltverändernd, zu wichtig für prosaische Anliegen wie Urheberrecht und Namensnennung. Der Johansson-Skandal ist lediglich eine Erinnerung an die Manifest-Destiny-Philosophie der KI: Dies geschieht, ob es Ihnen gefällt oder nicht.
Altman und OpenAI waren in dieser Hinsicht offen. Das Endziel von OpenAI war schon immer der Aufbau einer sogenannten künstlichen allgemeinen Intelligenz (AGI), die ihrer Vorstellung nach den Lauf der Menschheitsgeschichte für immer verändern und eine undenkbare Revolution der Produktivität und des Wohlstands einleiten würde – eine utopische Welt, in der Arbeitsplätze verschwinden, ersetzt durch eine Form des universellen Grundeinkommens, und die Menschheit erlebt Quantensprünge in Wissenschaft und Medizin. (Oder die Maschinen führen dazu, dass das Leben auf der Erde, wie wir es kennen, endet.) In dieser Hypothese steht unvorstellbar viel auf dem Spiel – ein Grund mehr für OpenAI, den Fortschritt mit allen notwendigen Mitteln zu beschleunigen. Letzten Sommer beschrieb mein Kollege Ross Andersen Altmans Ambitionen folgendermaßen:
Wie bei anderen Großprojekten des 20. Jahrhunderts hatte das stimmberechtigte Publikum sowohl bei den Zielen als auch bei der Durchführung der Apollo-Missionen eine Stimme. Altman machte deutlich, dass wir nicht mehr in dieser Welt sind. Anstatt darauf zu warten, dass es wiederkommt, oder seine Energie darauf zu verwenden, dafür zu sorgen, dass es wiederkommt, geht er in unserer gegenwärtigen Realität mit Vollgas voran.
Ein Teil von Altmans Argumentation, sagte er zu Andersen, sei, dass die KI-Entwicklung ein geopolitischer Wettlauf gegen Autokratien wie China sei. „Wenn Sie eine Person eines liberal-demokratischen Landes sind, ist es besser für Sie, den Erfolg von OpenAI zu bejubeln“ als den von „autoritären Regierungen“, sagte er. Er stellte fest, dass KI in einer idealen Welt ein Produkt von Nationen sein sollte. Aber in Das Weltweit scheint Altman sein Unternehmen als eine Art eigenen Nationalstaat zu betrachten. Altman hat natürlich vor dem Kongress ausgesagt und die Gesetzgeber aufgefordert, die Technologie zu regulieren, und gleichzeitig betont, dass „die Vorteile der Werkzeuge, die wir bisher eingesetzt haben, die Risiken bei weitem überwiegen“. Dennoch ist die Botschaft klar: Die Zukunft kommt, und Sie sollten uns diejenigen sein lassen, die sie gestalten.
Andere OpenAI-Mitarbeiter haben eine weniger freundliche Vision angeboten. In einem Video, das letzten Herbst von einer Gruppe effektiver Altruisten in den Niederlanden auf YouTube gepostet wurde, beantworteten drei OpenAI-Mitarbeiter Fragen zur Zukunft der Technologie. Als Antwort auf eine Frage darüber, dass AGI Arbeitsplätze überflüssig macht, gestand Jeff Wu, ein Ingenieur des Unternehmens: „Es ist irgendwie zutiefst unfair, dass eine Gruppe von Menschen einfach KI aufbauen und allen die Arbeitsplätze wegnehmen kann, und zwar in einigen.“ Sinnvoll, es gibt im Moment nichts, was Sie tun können, um sie aufzuhalten.“ Er fügte hinzu: „Ich weiß es nicht. Sensibilisierung, Regierungen und andere Menschen. Ja. Oder kommen Sie zu uns und sichern Sie sich einen der wenigen verbleibenden Jobs. Ich weiß nicht; es ist hart.“ Wus Kollege Daniel Kokotajlo sprang mit der Begründung ein. „Darüber hinaus“, sagte er, „wird AGI enormen Reichtum schaffen.“ Und wenn dieser Reichtum verteilt wird – auch wenn er nicht gerecht verteilt ist, aber je näher er einer gerechten Verteilung kommt, desto unglaublich reich wird er sein.“ (Es gibt keine Hinweise darauf, dass das Vermögen gleichmäßig verteilt sein wird.)
Das ist die ungeschminkte Logik von OpenAI. Es ist kalt, rationalistisch und paternalistisch. Dass eine so kleine Gruppe von Menschen dazu berufen werden sollte, eine zivilisationsverändernde Technologie aufzubauen, sei von Natur aus unfair, stellen sie fest. Und doch werden sie weitermachen, weil sie sowohl eine Vision für die Zukunft als auch die Mittel haben, diese in die Tat umzusetzen. Wus Vorschlag, den er im Video mit einem resignierten Schulterzucken vorbringt, ist bezeichnend: Sie können versuchen, dagegen anzukämpfen, aber Sie können es nicht aufhalten. Am besten ist es, wenn Sie mitmachen.
Sie können diese Dynamik in den Inhaltslizenzvereinbarungen von OpenAI sehen, die es mit Plattformen wie Reddit und Nachrichtenorganisationen wie Axel Springer und Dotdash Meredith geschlossen hat. Kürzlich verglich ein Tech-Manager, mit dem ich gesprochen habe, diese Art von Vereinbarungen mit einer Geiselnahme und deutete an, dass er glaubt, dass KI-Unternehmen sowieso Wege finden werden, die Websites von Verlagen zu plündern, wenn sie sich nicht daran halten. „Am besten kriegst du so lange wie möglich ein dürftiges Honorar heraus“, argumentierte die Person.
Die Johansson-Anschuldigungen verstärken diese Vermutungen nur (und bestätigen sie, wenn sie wahr sind). Altmans angebliche Begründung für die Beauftragung von Johanssons Stimme war, dass ihr vertrautes Timbre „für Menschen beruhigend“ sein könnte, die KI-Assistenten abstoßend finden. Bei ihrem Abbild ginge es weniger um eine bestimmte Voice-Bot-Ästhetik als vielmehr um einen Adoptions-Hack oder ein Rekrutierungstool für eine Technologie, nach der viele Menschen nicht gefragt haben und die ihnen scheinbar Unbehagen bereitet. Auch hier ist die Logik von OpenAI am Werk. Daraus folgt, dass das Unternehmen ohne Zustimmung weitermachen würde, einfach weil es glauben könnte, dass zu viel auf dem Spiel steht, um umzuschwenken oder abzuwarten. Wenn Ihre Technologie darauf abzielt, die Regeln der Gesellschaft neu zu schreiben, müssen die aktuellen Regeln der Gesellschaft nicht gelten.
Hybris und Anspruchsdenken sind bei der Entwicklung jeder transformativen Technologie inhärent. Eine kleine Gruppe von Menschen muss sich ihrer Vision sicher genug fühlen, um sie in die Welt zu bringen und den Rest von uns aufzufordern, sich anzupassen. Doch die generative KI führt diese Dynamik bis zur Absurdität. Es ist eine Technologie, die eine Geisteshaltung des offensichtlichen Schicksals, der Herrschaft und Eroberung erfordert. Es ist kein Stehlen, die Zukunft aufzubauen, wenn man glaubt, dass sie schon immer einem gehört hat.