Dieser Artikel wurde in „One Story to Read Today“ vorgestellt, einem Newsletter, in dem unsere Redakteure einen einzigen Artikel empfehlen, den man unbedingt lesen muss Der AtlantikMontag bis Freitag. Melden Sie sich hier dafür an.
Im letzten Jahr oder so, seit der öffentlichen Veröffentlichung von OpenAIs ChatGPT, haben sich die Menschen mit der Idee abgefunden, dass eine allmächtige KI am Horizont sein könnte. Sam Altman, der CEO des Unternehmens, „glaubt, dass die Menschen Zeit brauchen, um sich mit dem Gedanken auseinanderzusetzen, dass wir die Erde bald mit einer mächtigen neuen Intelligenz teilen könnten, bevor alles von der Arbeit bis zu den menschlichen Beziehungen neu gestaltet wird“, berichtete mein Kollege Ross Andersen, nachdem die beiden dies getan hatten mehrere Gespräche. „ChatGPT war eine Möglichkeit, Mitteilungen zu machen.“
Aber OpenAI ist nicht Altmans einziges Projekt und es ist nicht einmal sein einziges Projekt mit Ambitionen, die Welt zu verändern. Er ist außerdem Mitbegründer eines Unternehmens namens Tools for Humanity, das sich das hohe Ziel gesetzt hat, Menschen vor den wirtschaftlichen Verwüstungen zu schützen, die entstehen könnten, wenn KI menschliche Arbeitsplätze übernimmt. Das erste große Projekt des Unternehmens ist Worldcoin, bei dem eine böse aussehende Metallkugel namens „Orb“ verwendet wird, um Augapfelscans von Menschen auf der ganzen Welt durchzuführen.
Diese Scans werden in einzigartige Codes umgewandelt, die bestätigen, dass Sie ein echter, individueller Mensch und kein Bot sind. In Zukunft erhalten Sie dadurch theoretisch Zugang zu einem universellen Grundeinkommen, das über die Kryptowährung WLD von Worldcoin verteilt wird. (Sie werden dies wollen, weil Sie keine Arbeit finden werden.) Laut der World ID-App von Tools for Humanity wurden bereits mehr als 2 Millionen Menschen in 35 Ländern gescannt. Obwohl es in den Vereinigten Staaten noch nicht verfügbar ist, wurde der WLD-Token anderswo vertrieben, und das Unternehmen hat auch Benutzer durch Bargeldanreize in Ländern wie Indonesien und Kenia angeworben.
In seiner Berichterstattung über den Orb Die New York Times bezog sich auf den Science-Fiction-Thriller von 2002 Minderheitsbericht, in dem Tom Cruise seine Augäpfel ersetzen muss, um einem Techno-Polizeistaat zu entgehen, den er mit aufgebaut hat. In den sozialen Medien nannten die Leute das Konzept „beängstigend“, „Albtraumtreibstoff“ und „blackmirror asf” (asf was „so verdammt“ bedeutet). Sogar Vitalik Buterin, Mitschöpfer der Kryptowährung Ethereum und Unterstützer des Projekts, erkannte in einem Blogbeitrag dessen „dystopische Stimmung“ an. Diese Reaktionen basieren nicht auf dem Konzept eines UBI, das durch Kryptowährung bereitgestellt wird, oder auf der Idee, dass eine Iris-Verifizierung eines Tages notwendig sein könnte, um Bots von Menschen zu unterscheiden (obwohl an beiden Dingen reichlich berechtigte Kritik geäußert wurde). Nein, es ist Weil Es ist eine Kugel und scannt Ihre Augen, insbesondere um Sie auf eine Zukunft vorzubereiten, vor der viele Menschen einigermaßen Angst haben.
Normalerweise wäre es eine gute Idee, etwas Neues zu vermarkten, es als das Gegenteil von dystopisch zu positionieren. Das hat Apple in seinem Super-Bowl-Werbespot von 1984 getan 1984-Thema und Regie: Ridley Scott. Es stellte IBM als Big Brother dar, eine Kraft für vage faschistische Konformität und Tristesse. Inzwischen war der Macintosh ein Symbol für Lebensenergie und Freiheit. Diese Werbung ist zumindest teilweise deshalb berühmt, weil sie sehr ausgefallen ist: Es ist wirklich ein Risiko, Skinheads, die im Gleichschritt marschieren, überhaupt in einem Werbespot zu zeigen, auch wenn Sie letztendlich sagen wollen, dass Ihr Produkt als ihr Gegenteil (als Sprinter) personifiziert werden kann weibliches Model in Sportshorts).
Aber kürzlich hat sogar Apple erkannt, dass düstere Zeiten bevorstehen: „Ich bin mir ziemlich sicher, dass Apple weiß, dass wir alle bald sterben werden“, fasste die Reporterin Katie Notopoulos letztes Jahr zusammen, nachdem das Unternehmen seine neue Satelliten-Notruffunktion vorgestellt hatte eine Apple Watch, die extremen Wetterbedingungen standhält. Und häufiger lehnen sich die Technologieunternehmen an – sie sagen: Wir sind die Dystopie. Niemand hat Tools for Humanity gezwungen, sich für den Orb zu entscheiden. Niemand zwingt Technologieunternehmen jemals, ihre Produkte und ihr Marketing mit beunruhigenden Science-Fiction- oder Fantasy-Bezügen zu überziehen, aber sie tun es ständig. Sie spielen mit uns.
Peter Thiels streng geheimnisvolles Datenanalyseunternehmen Palantir erhielt seinen Namen in Anspielung auf die allsehenden augenähnlichen Steine, die hauptsächlich von den bösen Charakteren in verwendet werden Herr der Ringe Serie. Mark Zuckerberg benannte seine Firma in Meta um und ging voll auf das Metaversum ein, indem er den Begriff aus dem Roman von Neal Stephenson aus dem Jahr 1992 entlehnte. Schneeunfall, ein Buch, das nicht gerade pro-virtuelle Realität ist. (Es geht darum, wie schrecklich es wäre, in einer noch stärker nach Klassen getrennten Gesellschaft zu leben, die durch Technologien ermöglicht wird, die ursprünglich egalitär klangen.) Sogar Googles einstiges Motto „Sei nicht böse“ war vielleicht etwas ironisch . Dies deutete zumindest darauf hin, dass das Unternehmen in der Lage war, viel Böses zu tun, wenn es wollte.
Das wohl berühmteste Beispiel für das Dystopie-Verspottungsphänomen ist das Mahlzeitenersatzgetränk Soylent, das 2013 auf den Markt kam und nach einem Produkt aus dem Science-Fiction-Roman von 1966 benannt wurde Mach Platz! Mach Platz! Die Verfilmung dieses Buches aus dem Jahr 1973, Soylent Green, ist besser bekannt. Im Buch handelt es sich bei den Sojabohnen um Soja und Linsen; Im Film handelt es sich bei den Soylents um zerquetschte Menschen. Das Unternehmen zwinkert offen der düsteren Konnotation zu, die damit verbunden ist, auf eine freudlose Nährstoffmischung zu verzichten, um am Leben zu bleiben, und gleichzeitig auf den zeitaufwändigen Prozess der Auswahl und des Verzehrs von Lebensmitteln zu verzichten, die man tatsächlich genießen könnte. Um eine neue Minz-Schokolade-Geschmacksrichtung anzukündigen, erstellte Soylent Anzeigen mit dem Hashtag #plantsnotpeople. „Wenn ich es Soylent nenne, möchte ich natürlich, dass jemand es etwas genauer untersucht“, sagte Mitbegründer Rob Rhinehart Ars Technica.
Der Kauf einer Flasche Soylent ist eine Entscheidung des Verbrauchers. Aber für Technologieunternehmen geht es um die Unvermeidlichkeit. Sie prägen die Welt, in der wir leben, ob wir es wollen oder nicht. Die Grundvoraussetzung von Worldcoin ist, dass jeder gescannt werden muss. Nicht jeder wird es sein wollen und es vorziehen. Der Orb ist keine verspielte Nährstoffaufschlämmung; es soll kein Augenzwinkern sein.
Ich habe Tiago Sada, Produktleiter bei Tools for Humanity, nach dem Aussehen des Geräts gefragt. Er sagte mir, es solle „freundlich“ und „vertraut“ wirken. Wenn Sie es abstellen, blickt es in einem Winkel von 23,5 Grad nach oben, dem gleichen Neigungswinkel der Erde auf ihrer Umlaufbahn um die Sonne. Andere Iris-Scanner seien „super gruselig“, sagte Sada. „Man hat das Gefühl, zum Arzt zu gehen.“ Ich fragte ihn: Sagen Sie, dass Sie die Kugel nicht gebaut haben und gerade zum ersten Mal darauf gestoßen sind; Wie würde es für dich aussehen? Ein Weihnachtsschmuck, entschied er. Für andere sehe es aus wie eine Discokugel, sagte er. Sie lieben es. Als John Patroulis, der Chief Marketing Officer von Tools for Humanity, eine inaktive Kugel mitbrachte Der AtlantikAls ich ihn ins Büro schickte, damit ich ihn halten konnte, fragte ich ihn auch, ob er der Meinung sei, dass das Aussehen des Orbs irgendetwas Beängstigendes an sich habe. Nein. „Ich finde, es sieht cool aus“, sagte er.
Fairerweise muss man sagen, dass die Designer des Unternehmens in einer schwierigen Situation sind: Was sollen Ein Objekt, das so aussieht, als würde es Ihre Augen scannen, um eine Zukunft herbeizuführen, in der Menschen ihren Arbeitsplatz durch künstliche Intelligenz verloren haben und als Folge davon ein universelles Grundeinkommen erhalten? Ich möchte nicht, dass es süß ist. Ich möchte nicht, dass es gruselig wird. Wahrscheinlich würde ich es einfach nicht wollen. Aber jetzt, wo es hier ist, bin ich von der Kugel fasziniert. Also habe ich eine App heruntergeladen und einen Termin zum Scannen vereinbart.
An einem Freitagmorgen ging ich zum Meatpacking District und wurde in einen Co-Working-Space gebracht, der von einem Risikokapitalfonds betrieben wurde. Der Orb saß auf einem Hocker in einer Ecke des Raumes, in der Nähe eines offenen Vorratsschranks. Ehrlich gesagt sah es freundlich aus. Die Neigung seines kleinen Gesichtes nach oben ließ es neugierig erscheinen. (Alles kann vermenschlicht werden!) Ein Orb-Operator namens Nick führte mich durch den Prozess. In der World ID-App habe ich ein paar Kästchen angekreuzt, um zu sagen, dass ich verstanden habe, was passiert. Dann habe ich ein Kästchen angekreuzt, das besagte, dass es für das Unternehmen in Ordnung sei, meine Irisfotos zu speichern und sie in seinen Trainingsdaten zu verwenden. Ich habe das getan, weil neben mir eine Person stand und ich nicht geizig wirken wollte. Ich bin Organspender. Ich gebe immer Trinkgeld. Und ich wollte der Maschine gegenüber nicht unhöflich sein.
Nick hielt die Kugel für mich hoch, während ich hineinschaute, was für eine Sekunde tatsächlich Angst machte, weil ein paar winzige rote Lichter aufleuchteten. Aber sie wurden schnell durch einen weißen Lichtring ersetzt und eine Bestätigung, dass ich mich erfolgreich „als echte und einzigartige Person“ bestätigt hatte. Ich habe diese Informationen an meinen Freund geschickt, der für die Regierung arbeitet, und er meinte, ich hätte es nicht tun sollen. Nun, zu spät. Ich habe diese Informationen an meinen Redakteur geschickt, der meiner Meinung nach vielleicht begeisterter wäre. Er sagte: „Herzlichen Glückwunsch“ und dann „Was nun.“ Ich hatte ehrlich gesagt keine Ahnung; Ich denke, wir warten darauf, dass die Zukunft kommt.