Mehr als 400 KI-Experten, Prominente, Politiker und Aktivisten haben einen offenen Brief unterzeichnet, in dem sie den Gesetzgeber auffordern, dagegen vorzugehen Deepfake Technologie.
In dem Brief wurde argumentiert, dass die wachsende Zahl KI-generierter Videos eine Bedrohung für die Gesellschaft darstelle, da darin sexuelle Bilder, Kinderpornografie, Betrug und politische Desinformation enthalten seien.
Deepfakes sind KI-generierte Medien, die menschliche Stimmen, Bilder und Videos nachahmen, die für echt gehalten werden können.
In dem Brief heißt es, dass die Deepfake-Technologie die Öffentlichkeit in die Irre führt und es schwieriger macht, zu erkennen, was im Internet real ist. Daher sei es wichtiger denn je, formalisierte Gesetze einzuführen, „um unsere Fähigkeit zu schützen, echte Menschen zu erkennen“.
Forderungen nach strengeren Vorschriften kommen, nachdem sexuell eindeutige Deepfake-Bilder von Taylor Swift letzten Monat in den sozialen Medien viral gingen.
Taylor Swift wurde letzten Monat zum Ziel sexuell eindeutiger Deepfake-Bilder, die auf X viral gingen
Die Mehrheit der Zielpersonen von Deepfakes sind Frauen, und bereits 2018 tauchten Videos auf. Ein Video zielte auf die Schauspielerin Natalie Portman ab
„Deepfakes stellen eine enorme Bedrohung für die menschliche Gesellschaft dar und verursachen bereits jetzt zunehmenden Schaden für Einzelpersonen, Gemeinschaften und das Funktionieren der Demokratie“, sagte Andrew Critch, KI-Forscher an der UC Berkeley im Fachbereich Elektrotechnik und Informatik und Hauptautor der Studie Brief.
„Wir brauchen sofortige Maßnahmen, um die Verbreitung von Deepfakes zu bekämpfen, und meine Kollegen und ich haben diesen Brief verfasst, um Menschen auf der ganzen Welt ihre Unterstützung für gesetzgeberische Bemühungen zum Stoppen von Deepfakes zum Ausdruck zu bringen.“
Deepfakes sind in der Gesellschaft so weit verbreitet, dass zwischen 2022 und 2023 die Menge gefälschter sexueller Inhalte um mehr als 400 Prozent gestiegen ist, während die Betrugsfälle in diesem Zeitraum um schockierende 3.000 Prozent zugenommen haben, so die Kampagne „Ban Deepfakes“.
Die Mehrheit der Menschen ist sich einig, dass Personen, die Deepfake-Pornos online teilen, strafrechtlich verfolgt werden sollten
Kristen Bell war letztes Jahr eine weitere Berühmtheit, die Ziel eines Deepfake-Videos war
Der Brief mit dem Titel „Unterbrechung der Deepfake-Lieferkette“ fordert ein generelles Verbot der Deepfake-Technologie und fordert, dass der Gesetzgeber Deepfake-Kinderpornografie vollständig kriminalisiert und strafrechtliche Sanktionen für jeden einführt, der solche Inhalte wissentlich erstellt oder teilt.
Unterzeichner forderten außerdem, dass Softwareentwickler und -händler für jeden zur Verantwortung gezogen werden, der ihre Audio- und Videoprodukte zur Erstellung von Deepfakes nutzt.
„Es wird immer deutlicher, dass jeder und überall das Ziel schädlicher Deepfakes sein kann – auch unsere Kinder“, sagte Sarah Gardner, CEO der Heat Initiative.
„Gesetzgeber arbeiten für uns und haben den moralischen Auftrag, unsere Kinder zu schützen, indem sie schnell handeln, um die Plattformen und schlechten Akteure zur Rechenschaft zu ziehen, die die Verbreitung von Material über sexuellen Kindesmissbrauch ermöglichen“, fügte sie hinzu.
Emma Watson war ein weiteres Ziel der Deepfake-Technologie, als ein gefälschtes Video von ihr online auftauchte
Die Marvel-Schauspielerin Scarlett Johansson geriet letztes Jahr ins Visier, als eine gefälschte Videowerbung für Lisa AI auftauchte.
Der Brief ermutigte Medienunternehmen, Softwareentwickler und Gerätehersteller, zusammenzuarbeiten, um Authentifizierungsmethoden wie das Hinzufügen manipulationssicherer digitaler Siegel und kryptografischer Signaturtechniken zu entwickeln, um die Echtheit des Inhalts zu überprüfen.
Außerdem hieß es, dass die steigende Zahl nicht einvernehmlicher Pornografie einer der Hauptgründe dafür sei, dass der Brief so wichtig sei, und zitierte einen Bericht, der feststellte, dass Deepfake-Pornografie 98 Prozent aller derartigen Online-Videos ausmacht.
Es ist nicht nur Taylor Swift – jetzt kann JEDER ins Visier der abscheulichen Deepfake-Pornobarone geraten
Deepfake-Pornos sind bereits eine riesige Branche mit ganzen eigenen – und scheinbar unregulierten – Websites.
Diese Videos verzeichneten im Jahr 2023 Berichten zufolge 34 Millionen Aufrufe, wobei 99 Prozent der Zielgruppen Frauen waren.
Mit dem neuen Brief fügte Taylor Swift ihren Namen zu den Dutzenden anderer Prominenter hinzu, die Opfer von Deepfake-Bildern wurden, als nicht einvernehmliche, sexuell eindeutige Bilder auf X viral gingen und mehr als 27 Millionen Aufrufe und 260.000 Likes erhielten, bevor die Bilder entfernt wurden.
Weibliche Prominente sind bereits seit 2018, als Natalie Portman in einem Video zu sehen war, das Hauptziel von Deepfake-Bildern.
Auch die Marvel-Schauspielerin Scarlett Johansson geriet letztes Jahr ins Visier, als eine gefälschte Videowerbung für Lisa AI auftauchte.
Im März war Harry-Potter-Star Emma Watson in einer Fake-Werbung in den sozialen Medien zu sehen, in der sie offenbar einen sexuellen Akt ausführte.
Die Technologie schreite so schnell voran, dass jeder ins Visier genommen werden könne und die breite Öffentlichkeit zunehmend Opfer von Deepfakes werde, heißt es in dem Brief.
Mehr als 30 weibliche Teenager an einer High School in New Jersey wurden letztes Jahr ins Visier genommen, als ein männlicher Klassenkamerad gefälschte Bilder von ihnen erstellte und online verbreitete, was bei Schülern und Eltern Empörung auslöste.
„Heute sehen wir, dass es Privatpersonen betrifft, weil es so unmittelbar und so schnell ist“, sagte ActiveFence-Forscher Amir Oneli im Oktober gegenüber Dailymail.com.
„Das Tragischste ist, dass niemand in Sicherheit ist.“