*(CNN) – In seiner jährlichen „Worldwide Threat Assessment“ haben hochrangige US-Geheimdienstmitarbeiter in den letzten Jahren vor der Bedrohung durch sog Deepfakes – überzeugende gefälschte Videos, die mit künstlicher Intelligenz erstellt wurden.
„Gegner und strategische Konkurrenten“, warnten sie 2019, könnten diese Technologie nutzen, „um überzeugende – aber falsche – Bild-, Audio- und Videodateien zu erstellen, um Einflusskampagnen gegen die Vereinigten Staaten und unsere Verbündeten und Partner zu verstärken.“
Die Szenarien sind nicht schwer vorstellbar; ein gefälschtes Video, das einen Politiker in einer kompromittierenden Position zeigt; gefälschtes Audio eines Weltführers, der sensible Informationen diskutiert.
Die Bedrohung scheint nicht allzu weit entfernt zu sein. Der jüngste virale Erfolg von ChatGPT, einem KI-Chatbot, der Fragen beantworten und Prosa schreiben kann, erinnert daran, wie leistungsfähig diese Art von Technologie sein kann.
WEITERE NACHRICHTEN AUF EURWEB: DaBaby möchte, dass ein Richter in LA seinen bevorstehenden Zivilprozess wegen eines Angriffs im Jahr 2020 verschiebt
Aber trotz der Warnungen haben wir, soweit wir wissen, nicht viele bemerkenswerte Fälle gesehen, in denen Deepfakes erfolgreich in der Geopolitik eingesetzt wurden.
Aber es gibt eine Gruppe, gegen die die Technologie konsequent und seit mehreren Jahren bewaffnet wird: Frauen.
Deepfakes wurden verwendet, um die Gesichter von Frauen ohne deren Zustimmung in oft aggressive pornografische Videos einzufügen. Es ist eine verderbte KI-Version der demütigenden Praxis des Rachepornos, mit Deepfake-Videos, die so echt erscheinen, dass es für weibliche Opfer schwer sein kann zu leugnen, dass sie es nicht wirklich sind.
Das seit langem schwelende Problem explodierte letzte Woche in der Öffentlichkeit, als sich herausstellte, dass Atrioc, ein hochkarätiger männlicher Videospiel-Streamer auf der äußerst beliebten Plattform Twitch, auf Deepfake-Videos einiger seiner weiblichen Twitch-Streaming-Kollegen zugegriffen hatte. Später entschuldigte er sich.
Inmitten der Folgen erkannte die Twitch-Streamerin „Sweet Anita“, dass es online Deepfake-Darstellungen in pornografischen Videos gibt.
„Es ist sehr, sehr surreal, sich selbst dabei zuzusehen, wie man etwas tut, was man noch nie getan hat“, sagte die Twitch-Streamerin „Sweet Anita“ gegenüber CNN, nachdem sie letzte Woche bemerkt hatte, dass ihr Gesicht ohne ihre Zustimmung in pornografische Videos eingefügt worden war.
„Es ist ein bisschen so, als ob du zusehen würdest, wie etwas Schockierendes mit dir selbst passiert. Zum Beispiel, wenn Sie sich ein Video angesehen haben, in dem Sie ermordet wurden, oder ein Video, in dem Sie von einer Klippe gesprungen sind“, sagte sie.
Aber der zutiefst beunruhigende Einsatz von Technologie auf diese Weise ist nicht neu.
Tatsächlich leitet sich der Begriff „Deepfake“ vom Benutzernamen eines anonymen Reddit-Mitarbeiters ab, der 2017 damit begann, manipulierte Videos von weiblichen Prominenten in pornografischen Szenen zu veröffentlichen.
„Von Anfang an benutzte die Person, die Deepfakes erstellte, diese, um ohne ihre Zustimmung Frauenpornografie zu erstellen“, sagte Samantha Cole, eine Reporterin bei Vice’s Motherboard, die Deepfakes seit ihrer Gründung verfolgt, gegenüber CNN.
Die Online-Gaming-Community ist ein notorisch schwieriger Ort für Frauen – die Belästigungskampagne „Gamergate“ von 2014 ist ein prominentestes Beispiel.
Bedenken hinsichtlich der Verwendung von nicht einvernehmlichen pornografischen Bildern sind jedoch nicht ausschließlich auf diese Community beschränkt und drohen alltäglich zu werden, da sich die Technologie der künstlichen Intelligenz mit halsbrecherischer Geschwindigkeit entwickelt und die Leichtigkeit, Deepfake-Videos zu erstellen, immer besser wird.
„Ich bin verblüfft darüber, wie schrecklich die Menschen im Internet auf eine Weise miteinander umgehen, von der ich nicht glaube, dass sie von Angesicht zu Angesicht wären“, sagte Hany Farid, Professor an der University of California, Berkeley, und Experte für digitale Forensik. sagte CNN.
„Ich denke, wir müssen anfangen zu verstehen, warum diese Technologie, dieses Medium scheinbar das Schlimmste in der menschlichen Natur zulässt und hervorbringt? Und wenn wir diese Technologien so in unser Leben integrieren wollen, wie sie scheinen, müssen wir meiner Meinung nach darüber nachdenken, wie wir mit dieser Art von Geräten bessere Menschen sein können“, sagte er .
Es ist Teil eines viel größeren systemischen Problems.
„Es ist alles Vergewaltigungskultur“, sagte Cole, „ich weiß nicht, was die eigentliche Lösung ist, außer dass ich zu diesem grundlegenden Problem der Respektlosigkeit und Nichteinwilligung komme und damit einverstanden bin, die Einwilligung von Frauen zu verletzen.“
Der Gesetzgeber hat Anstrengungen unternommen, um gegen die Erstellung nicht einvernehmlicher Bilder vorzugehen, unabhängig davon, ob sie von KI generiert wurden oder nicht. In Kalifornien wurden Gesetze erlassen, um dem Potenzial entgegenzuwirken, dass Deepfakes in einem Wahlkampf und in nicht einvernehmlicher Pornografie verwendet werden.
Aber es gibt Skepsis. „Wir haben noch nicht einmal die Probleme des Technologiesektors von vor 10, 20 Jahren gelöst“, sagte Farid und wies darauf hin, dass die Entwicklung der künstlichen Intelligenz „viel, viel schneller voranschreitet als die ursprüngliche technologische Revolution“.
„Move fast and break things“, war das Motto von Facebook-Gründer Mark Zuckerberg in den Anfängen des Unternehmens. Als die Macht und tatsächlich die Gefahr seiner Plattform in den Fokus rückten, änderte er später das Motto in „Bewege dich schnell mit stabiler Infrastruktur“.
Ob Vorsatz oder Ignoranz, das Silicon Valley war auf den Ansturm von Hass und Desinformation, der auf seinen Plattformen wütet, nicht vorbereitet. Die gleichen Werkzeuge, die es entwickelt hatte, um Menschen zusammenzubringen, wurden auch zur Spaltung bewaffnet.
Und obwohl es viele Diskussionen über „ethische KI“ gegeben hat, da Google und Microsoft auf ein KI-Wettrüsten vorbereitet zu sein scheinen, gibt es Bedenken, dass sich die Dinge zu schnell entwickeln könnten.
„Die Leute, die diese Technologien entwickeln – die Akademiker, die Leute in den Forschungslabors bei Google und Facebook – müssen sich fragen: ‚Warum entwickeln Sie diese Technologie?’“, schlug Farid vor.
„Wenn der Schaden die Vorteile überwiegt, sollten Sie das Internet mit Ihrer Technologie bombardieren und sie dort veröffentlichen und sich dann zurücklehnen und sagen: ‚Nun, mal sehen, was als nächstes passiert?’“
The-CNN-Wire
™ & © 2023 Cable News Network, Inc., ein Warner Bros. Discovery-Unternehmen. Alle Rechte vorbehalten.
Wir veröffentlichen rund um die Uhr Neuigkeiten. Verpassen Sie keine Geschichte. Klicken HIER Zu ABONNIEREN jetzt zu unserem Newsletter!