Deepfakes Ihrer verstorbenen Angehörigen sind ein boomendes chinesisches Geschäft

In chinesischen Haushalten ist es üblich, noch einige Jahre nach dem Tod ein Porträt eines verstorbenen Verwandten aufzuhängen. Zhang Zewei, Gründer eines in Shanghai ansässigen Unternehmens namens Super Brain, sagt, er und sein Team wollten diese Tradition mit einem „KI-Fotorahmen“ neu aufleben lassen. Sie erstellen Avatare verstorbener Angehöriger, die auf einem Android-Tablet vorinstalliert sind und im Stehen wie ein Bilderrahmen aussehen. Kunden können ein bewegtes Bild wählen, das Wörter aus einer Offline-Datenbank oder einem LLM spricht.

„Im Wesentlichen unterscheidet es sich nicht wesentlich von einem traditionellen Porträt, außer dass es interaktiv ist“, sagt Zhang.

Laut Zhang hat das Unternehmen seit März 2023 digitale Repliken für über 1.000 Kunden erstellt und verlangt je nach erworbener Dienstleistung 700 bis 1.400 US-Dollar. Das Unternehmen plant, bald ein reines App-Produkt herauszubringen, damit Benutzer auf ihren Mobiltelefonen auf die Avatare zugreifen können, und könnte die Kosten weiter auf etwa 140 US-Dollar senken.

Der Zweck seiner Produkte, sagt Zhang, sei therapeutischer Natur. „Wenn Sie jemanden wirklich vermissen oder an bestimmten Feiertagen Trost brauchen, können Sie mit dem künstlichen Leben sprechen und Ihre inneren Wunden heilen“, sagt er.

Und auch wenn dieses Gespräch weitgehend einseitig ist, so steht es doch im Einklang mit einer starken kulturellen Tradition. Jedes Jahr im April fegen Chinesen während des Qingming-Festes die Gräber ihrer Vorfahren, verbrennen Räucherstäbchen und gefälschtes Papiergeld und erzählen ihnen, was im vergangenen Jahr passiert ist. Natürlich waren diese Gespräche immer einseitig.

Dies gilt jedoch nicht für alle Super Brain-Dienste. Das Unternehmen bietet auch Deepfake-Videoanrufe an, bei denen ein Mitarbeiter des Unternehmens oder ein Vertragstherapeut vorgibt, der verstorbene Angehörige zu sein. Mit DeepFace, einem Open-Source-Tool zur Analyse von Gesichtszügen, wird das Gesicht der verstorbenen Person in 3D rekonstruiert und mit einem Echtzeitfilter durch das Gesicht der lebenden Person ersetzt.

Beispiel eines Deepfake-Videoanrufs, den Super Brain im Juli 2023 durchgeführt hat. Das Gesicht in der oberen rechten Ecke stammt vom verstorbenen Sohn der Frau.

SUPER GEHIRN

Am anderen Ende des Anrufs steht meist ein älteres Familienmitglied, das möglicherweise nicht weiß, dass der Angehörige gestorben ist – und dessen Familie das Gespräch als List arrangiert hat.

Jonathan Yang, ein Einwohner von Nanjing, der in der Technologiebranche arbeitet, bezahlte diese Dienstleistung im September 2023. Sein Onkel kam bei einem Bauunfall ums Leben, aber die Familie zögerte, es Yangs Großmutter zu sagen, die 93 Jahre alt ist und sich in einem schlechten Gesundheitszustand befindet. Sie befürchteten, dass sie die verheerende Nachricht nicht überleben würde.

source site

Leave a Reply