Der neue Anthony Bourdain-Dokumentarfilm „Roadrunner“ ist eines von vielen Projekten, die dem überlebensgroßen Koch, Autor und Fernsehpersönlichkeit gewidmet sind. Aber der Film hat große Aufmerksamkeit auf sich gezogen, zum Teil wegen seines subtilen Vertrauens auf künstliche Intelligenz.
Aus mehreren Stunden der Sprachaufnahmen von Herrn Bourdain erstellte ein Softwareunternehmen 45 Sekunden neues Audiomaterial für den Dokumentarfilm. Die KI-Stimme klingt wie Mr. Bourdain, der aus dem großen Jenseits spricht; An einer Stelle im Film wird eine E-Mail gelesen, die er vor seinem Tod durch Selbstmord im Jahr 2018 gesendet hat.
„Wenn Sie sich den Film ansehen, wissen Sie außer der von Ihnen erwähnten Zeile wahrscheinlich nicht, welche anderen Zeilen die KI gesprochen hat, und Sie werden es auch nicht wissen“, sagte Morgan Neville, der Regisseur, in ein Interview mit dem New Yorker. “Wir können später ein dokumentarisches Ethik-Panel darüber haben.”
Die Zeit für dieses Panel könnte jetzt sein. Immer häufiger werden Tote digital wiederbelebt: als 2D-Projektionen, 3D-Hologramme, CGI-Renderings und KI-Chat-Bots.
Ein Hologramm des Rappers Tupac Shakur betrat 2012, 15 Jahre nach seinem Tod, die Bühne bei Coachella; ein Abbild einer 19-jährigen Audrey Hepburn, die 2014 in einer Galaxy-Schokoladenanzeige zu sehen war; und Carrie Fisher und Peter Cushing wiederholten posthum ihre Rollen in einigen der neueren „Star Wars“-Filme.
Wenige Beispiele haben so viel Aufmerksamkeit erregt wie die singendes, tanzendes Hologramm die Kanye West Kim Kardashian West letzten Oktober zu ihrem Geburtstag geschenkt hat, nach dem Bild ihres verstorbenen Vaters Robert Kardashian. Ähnlich wie Mr. Bourdains stimmlicher Doppelgänger wurde die Stimme des Hologramms auf echten Audioaufnahmen trainiert, aber in Sätzen gesprochen, die Mr. Kardashian nie ausgesprochen hatte; Als ob sie aus dem Jenseits kommunizieren würde, drückte das Hologramm den Stolz auf Frau Kardashian Wests Streben nach einem Jurastudium aus und beschrieb Herrn West als „den meisten, meisten, meisten, genialsten Mann auf der ganzen Welt“.
Daniel Reynolds, dessen Firma Kaleida das Hologramm von Herrn Kardashian produzierte, sagte, dass die Kosten für Projekte dieser Art bei 30.000 US-Dollar beginnen und unter Berücksichtigung von Transport und Ausstellung über 100.000 US-Dollar betragen können.
Aber es gibt andere, viel günstigere Formen der digitalen Reinkarnation; Seit diesem Jahr können Besucher auf der Genealogie-Site MyHeritage kostenlos Familienfotos von längst verstorbenen Verwandten animieren, wodurch im Wesentlichen harmlose, aber unheimliche Deepfakes erstellt werden.
Obwohl sich die meisten digitalen Reproduktionen um Menschen in der Öffentlichkeit drehten, hat dies Auswirkungen auch auf die am wenigsten berühmten von uns. Heutzutage hat fast jeder eine Online-Identität, die noch lange nach dem Tod weiterleben wird. Zu bestimmen, was mit diesen digitalen Selbsten zu tun ist, kann einer der großen ethischen und technologischen Imperative unserer Zeit sein.
Wessen Daten sind das?
Seit das Internet Kommunikation, Arbeit und Freizeit subsumiert, ist die Menge an Daten, die der Mensch täglich erzeugt, stark gestiegen. Jede Minute geben Menschen mehr als 3,8 Millionen Google-Suchanfragen ein, senden mehr als 188 Millionen E-Mails und blättern mehr als 1,4 Millionen Mal durch Tinder, während sie von verschiedenen Formen der digitalen Überwachung verfolgt werden. Wir produzieren so viele Daten, dass einige Philosophen jetzt glauben, dass die Persönlichkeit nicht länger eine Gleichung von Körper und Geist ist; es muss auch das digitale Wesen berücksichtigen.
Wenn wir sterben, hinterlassen wir Informationsleichen, die aus E-Mails, Textnachrichten, Social-Media-Profilen, Suchanfragen und Online-Shopping-Verhalten bestehen. Carl Ohman, ein digitaler Ethiker, sagte, dies stelle einen großen soziologischen Wandel dar; Jahrhundertelang wurden nur die Reichen und Schönen gründlich dokumentiert.
In einer Studie berechnete Dr. Ohman, dass Facebook – das Fortbestehen vorausgesetzt – bis zum Ende des Jahrhunderts 4,9 Milliarden verstorbene Nutzer haben könnte. Diese Zahl stellt sowohl auf persönlicher als auch auf gesellschaftlicher Ebene Herausforderungen dar, sagte Dr. Ohman: „Es geht nicht nur darum, ‚Was mache ich mit dem Facebook-Profil meines verstorbenen Vaters?’ Es geht vielmehr um ‘Was machen wir mit den Facebook-Profilen der vergangenen Generation?’“
Die aggregierten Daten der Toten in den sozialen Medien stellen ein Archiv von bedeutendem humanitärem Wert dar – eine primäre historische Ressource, wie sie keine andere Generation hinterlassen hat. Dr. Ohman glaubt, dass es als solches behandelt werden muss.
Er hat sich dafür ausgesprochen, digitalen Überresten einen ähnlichen Status wie archäologischen Überresten zuzuordnen – oder „eine Art digitales Welterbe-Etikett“, sagte er – damit Wissenschaftler und Archivare sie vor Ausbeutung und digitalem Verfall schützen können.
In Zukunft können die Menschen sie dann nutzen, um mehr über die großen kulturellen Momente zu erfahren, die sich online abspielten, wie den Arabischen Frühling und die #MeToo-Bewegung, und „hereinzoomen, um qualitative Lesarten der Personen zu machen, die an diesen Bewegungen teilgenommen haben“. “, sagte Dr. Ohman.
Öffentliche Social-Media-Profile sind das eine. Privater Austausch, wie die in der Bourdain-Dokumentation gelesene E-Mail, wirft kompliziertere ethische Fragen auf.
„Wir wissen nicht, ob Bourdain dem Lesen dieser E-Mails vor der Kamera zugestimmt hätte“, sagte Katie Shilton, eine Forscherin mit dem Schwerpunkt IT-Ethik an der University of Maryland. “Wir wissen nicht, ob er der Manipulation seiner Stimme zugestimmt hätte.” Die Entscheidung, den Text vorlesen zu lassen, bezeichnete sie als „Verletzung der Autonomie“.
Aus ethischer Sicht, sagte Dr. Shilton, würde die Erstellung eines neuen Audios von Mr. Bourdains Worten die Erlaubnis der ihm nahestehenden Personen erfordern. In einem Interview mit GQ sagte Herr Neville, er habe sich bei Herrn Bourdains „Witwe und seinem literarischen Testamentsvollstrecker“ „gesprochen“, der seinen Einsatz von AI . genehmigte
Ottavia Busia, die Ex-Frau von Herrn Bourdain, sagte ihrerseits, sie habe die Entscheidung nicht unterschrieben. „Ich war sicherlich NICHT diejenige, die sagte, Tony wäre damit cool gewesen“, sie schrieb auf Twitter 16. Juli, der Tag, an dem der Film in die Kinos kam.
Promi-Hologramme und posthume Privatsphäre
Wie Jean-Paul Sartre es einmal formulierte: „Tot zu sein bedeutet, den Lebenden zum Opfer zu fallen.“ Ein Gefühl, über das Philosophen noch heute nachdenken, und das Patrick Stokes, der Autor von „Digital Souls“, in direktem Zusammenhang mit digitalen Überresten sieht.
Aus seiner Sicht erfordert die Erstellung einer digitalen Version eines Verstorbenen, Qualitäten von den Toten zu nehmen, die für die Lebenden von Bedeutung sind – wie zum Beispiel ihre Gespräche und ihren Unterhaltungswert – und den Rest hinter sich zu lassen.
„Wir sind dazu übergegangen, die Toten zu ersetzen“, sagte Mr. Stokes, ein leitender Dozent für Philosophie an der Deakin University. „Wir haben nicht nur einen besonders lebendigen Weg gefunden, uns an sie zu erinnern, sondern stattdessen einen Weg gefunden, die Lücke in der Existenz zu schließen, die sie durch ihren Tod hinterlassen haben.“
Bei Personen des öffentlichen Lebens besteht ein offensichtlicher finanzieller Anreiz, ihr digitales Abbild zu erstellen, weshalb ihre Bilder für eine gewisse Zeit durch das posthume Veröffentlichungsrecht geschützt sind. In Kalifornien dauert es bis zu 70 Jahre nach dem Tod; in New York, Stand Dezember 2020, 40 Jahre post mortem.
Will ein Unternehmen früher das Bild eines Verstorbenen verwenden, bedarf es der Zustimmung aus dem Nachlass des Verstorbenen; daraus resultierende Kooperationen können für beide Seiten gewinnbringend sein. Daher kann die moralische Vormundschaft durch finanzielle Motive kompliziert werden.
Einige Künstler äußern ihre Wünsche ausdrücklich. Robin Williams zum Beispiel, der 2014 starb, reichte eine Urkunde ein, die die Verwendung seines Bildes oder seines Abbilds für 25 Jahre nach seinem Tod als zusätzliche Schutzschicht über das kalifornische Gesetz hinaus verhinderte.
Auch Verbraucher äußern ihre Meinung. Die Firma Base Hologram, die Hologrammshows von Roy Orbison, Buddy Holly und Maria Callas produziert hat, kehrte Pläne um, Abbilder von Whitney Houston und Amy Winehouse auf Tour zu bringen, nachdem sie als ausbeuterisch kritisiert wurden. Nur weil die Produktion solcher Aufführungen legal ist, bedeutet dies nicht, dass das Publikum sie als ethisch akzeptiert.
Sie könnten immer Ihre eigene KI erstellen …
Derzeit erkennt das Bundesgesetz der Vereinigten Staaten das Recht der Toten auf Privatsphäre nicht an, sagte Albert Gidari, Anwalt und ehemaliger beratender Direktor für Datenschutz am Stanford Center for Internet and Society.
„Aber“, sagte er, „aus praktischen Gründen schützt das Gesetz über gespeicherte Kommunikation diese Informationen tatsächlich vor der Offenlegung, da so viele Informationen über Sie heute in digitaler Form vorliegen und sich bei Plattformanbietern, sozialen Medien usw. befinden vorherige Zustimmung.”
„Und natürlich können Sie nicht zustimmen, wenn Sie tot sind“, fügte Herr Gidari hinzu. Eine Folge davon ist, dass Familien verstorbener Personen häufig keine Online-Daten von den digitalen Konten ihrer Lieben wiederherstellen können.
Um die Macht über ihr digitales Erbe zu behaupten, entscheiden sich einige Leute dafür, ihr eigenes KI-Selbst mit einer wachsenden Anzahl von Apps und Diensten zu erstellen.
Einige, wie HereAfter, konzentrieren sich auf die Familiengeschichte. Für 125 bis 625 US-Dollar befragt das Unternehmen Kunden zu kritischen Momenten in ihrem Leben. Diese Antworten werden verwendet, um einen Siri-ähnlichen Chat-Bot zu erstellen. Wenn Ihre Urenkel zum Beispiel wissen wollten, wie Sie Ihren Ehepartner kennengelernt haben, könnten sie den Bot fragen und er würde mit Ihrer Stimme antworten.
Eine andere Chat-Bot-App, Replika, erstellt Avatare, die die Stimmen ihrer Benutzer nachahmen. Im Laufe der Zeit soll jeder dieser Avatare zum ultimativen einfühlsamen Freund werden, der immer per SMS (kostenlos) und Sprachanrufen (gegen Gebühr) erreichbar ist. Der Dienst gewann während der Pandemie an Bedeutung, da isolierte Menschen eine einfache Gesellschaft suchten.
Eugenia Kuyda, die Schöpferin der App, kam auf die Idee, nachdem ihr Freund Roman Mazurenko im Jahr 2015 gestorben war. Sie nutzte ein sogenanntes neuronales Netzwerk – eine Reihe komplexer Algorithmen zur Erkennung von Mustern –, um einen Chat-Bot mit den von ihm hinterlassenen Textdaten zu trainieren dahinter, die überzeugend genug kommunizierte, um die Mutter von Herrn Mazurenko zu bezaubern. Dieselbe Technologie liegt den Chatbots von Replika zugrunde.
„Replika ist in erster Linie ein Freund für unsere Benutzer, aber es wird über ihren Tod hinaus weiterleben und das Wissen über seinen Schöpfer tragen“, schrieb Frau Kuyda in einer E-Mail.
Im Dezember 2020 meldete Microsoft ein Patent zum „Erstellen eines Konversations-Chat-Bots einer bestimmten Person“ an, das zusammen mit einem „2-D- oder 3-D-Modell einer bestimmten Person“ verwendet werden könnte. („Wir haben zu diesem speziellen Patent nichts mitzuteilen“, schrieb ein Microsoft-Vertreter in einer E-Mail.)
Andere Projekte scheinen darauf abzuzielen, nach dem Tod eines geliebten Menschen einen emotionalen Abschluss zu bieten. Im Februar 2020 wurde eine südkoreanische Dokumentation mit dem Titel „Meeting You“ veröffentlicht. Es zeichnete die Virtual-Reality-„Wiedervereinigung“ einer Frau namens Jang Ji-sun und ihrer kleinen Tochter auf, die an Krebs starb.
Der Avatar der Tochter wurde von Vive Studios in enger Zusammenarbeit mit der Familie Jang erstellt. Das Unternehmen hat andere Anwendungen für seine VR-Technologie in Betracht gezogen – die Schaffung eines „digitalen Gedenkparks“, in dem Menschen beispielsweise tote Angehörige besuchen können, oder die Zusammenarbeit mit Gesundheitsdienstleistern, die Patienten durch die Trauer führen.
Dies alles geschieht inmitten einer Pandemie, die die Riten rund um den Tod radikal verändert hat. Für viele Familien waren letzte Abschiede und Beerdigungen im Jahr 2020 virtuell, wenn sie überhaupt stattfanden. Wenn digitale Technologien für das Jenseits Einzug in den Mainstream halten, können sie dazu beitragen, den Trauerprozess zu erleichtern, Verbindungen zwischen vergangenen und gegenwärtigen Generationen zu fördern und die Lebenden dazu zu ermutigen, offener miteinander über den Tod zu sprechen.
Aber vorher, sagte der Philosoph Mr. Stokes, gibt es wichtige Fragen zu bedenken: „Wenn ich anfange, mit diesen Dingen zu interagieren, was sagt das über meine Beziehung zu dieser Person aus, die ich liebte? Tue ich tatsächlich die Dinge, die die Liebe erfordert, indem ich mit dieser neuen Wiederbelebung von ihnen interagiere? Beschütze ich die Toten? Oder beute ich sie aus?“
„Wir haben die seltene Chance, tatsächlich ethisch bereit für neue Technologien zu sein, bevor sie hier ankommen“, sagte Stokes. Oder zumindest bevor es weitergeht.