Fake-Videos von Präsident Joe Biden und dem republikanischen Spitzenkandidaten Donald Trump machen deutlich, dass das Präsidentschaftsrennen 2024 der erste ernsthafte Test für die Widerstandsfähigkeit der amerikanischen Demokratie gegenüber künstlicher Intelligenz sein könnte.
Videos von Biden als Transstar Dylan Mulvaney, der Bud Light bewirbt, und Trump, der in einem ruhigen Nagelstudio in Albuquerque Steuerhinterziehung lehrt, zeigen, dass nicht einmal die mächtigsten Persönlichkeiten des Landes vor KI-Identitätsdiebstahl sicher sind.
Experten sagen, dass es heute zwar relativ einfach sei, diese Fälschungen zu erkennen, dies jedoch in den kommenden Jahren unmöglich sein werde, da die Technologie so rasant voranschreite.
Es gab bereits Einblicke in die realen Schäden, die KI anrichtet. Erst Anfang dieser Woche löste ein von der KI erstelltes Bild von schwarzem Rauch, der aus dem Pentagon aufstieg, Schockwellen durch den Aktienmarkt aus, bevor Medienfaktenprüfer den Rekord endlich korrigieren konnten.
Ein Deep Fake von Bidens Pre-Gaming in Drag, gepostet von @drunkamerica auf Instagram, erhielt in den letzten fünf Tagen 223.107 Likes. Experten glauben, dass es aufgrund der unheimlichen Genauigkeit von KI-generierten Stimmen und Gesichtern „immer schwieriger wird, Desinformation zu erkennen“.
„Es wird immer schwieriger, Desinformation zu erkennen, insbesondere hochentwickelte KI-generierte Deep Fakes“, so Cayce Myers, Professor an der School of Communication der Virginia Tech.
„Um diese Desinformation zu erkennen, müssen Benutzer über mehr Medienkompetenz und mehr Geschick bei der Prüfung des Wahrheitsgehalts jeder Behauptung verfügen“, sagte Professor Myers, der sich mit der Deep-Fake-Technologie und ihrer zunehmenden Verbreitung beschäftigt.
„Die Kostenbarriere für generative KI ist außerdem so niedrig, dass mittlerweile fast jeder mit einem Computer und Internet Zugang zu KI hat“, sagte Myers.
Myers betonte die Rolle, die sowohl Technologieunternehmen als auch der Durchschnittsbürger spielen müssen, um zu verhindern, dass diese Wellen unheimlicher, glaubhafter Fälschungen die US-Demokratie im Jahr 2024 überwältigen.
„Quellen zu untersuchen, Warnsignale für Desinformation zu verstehen und gewissenhaft mit dem umzugehen, was wir online teilen, ist eine persönliche Möglichkeit, die Verbreitung von Desinformation zu bekämpfen“, sagte Myers. „Das wird jedoch nicht reichen.“
„Unternehmen, die KI-Inhalte produzieren, und Social-Media-Unternehmen, in denen Desinformation verbreitet wird, müssen ein gewisses Maß an Schutzmaßnahmen einführen, um die Verbreitung der weit verbreiteten Desinformation zu verhindern.“
Es besteht die Befürchtung, dass Videos von Politikern, die Worte vorbringen, die sie nie gesagt haben, als wirksames Instrument der Desinformation genutzt werden könnten, um Wähler zu beeinflussen.
Berüchtigte Trollfarmen in Russland und anderen Teilen der Welt, die den USA feindlich gesinnt sind, werden genutzt, um in den sozialen Medien Unmut zu säen.
Es ist fünf Jahre her, dass BuzzFeed und der Regisseur und Komiker Jordan Peele eine unheimliche Deep-Fake-Satire auf den ehemaligen Präsidenten Barack Obama produzierten, um auf das alarmierende Potenzial der Technologie aufmerksam zu machen.
„Sie könnten mich Dinge sagen lassen wie: Ich weiß nicht, [Marvel supervillain] „Killmonger hatte Recht“ oder „Ben Carson ist am versunkenen Ort“, sagte Peele in seinem fachkundigen Obama-Eindruck.
Eine Deep-Fake-Parodie des ehemaligen Präsidenten Trump überlagerte seine Stimme und sein Abbild mit dem zwielichtigen Anwalt des AMC-Netzwerks, Saul Goodman aus den Serien „Breaking Bad“ und „Better Call Saul“. Das Video vom YouTube-Kanal CtrlShiftFace hat seit seiner Veröffentlichung 24.000 Likes erhalten
„Oder wie wäre es damit: „Einfach gesagt, Präsident Trump ist ein absoluter Vollidiot.““
Aber es sind nicht nur Akademiker, Komiker und Nachrichtenagenturen, die diese Behauptungen aufstellen.
Wichtige Politikexperten haben ihre Bedenken zum Ausdruck gebracht, und zwar mit zunehmender Dringlichkeit in den letzten Jahren.
„Ein gut getimter und sorgfältig geschriebener Deepfake oder eine Reihe von Deepfakes könnte eine Wahl beeinflussen“, sagten Experten im Jahr 2019, die für den Council on Foreign Relations schrieben.
Die Gruppe warnte auch, dass Deep Fakes bald „Gewalt in einer Stadt auslösen könnten, die auf Unruhen vorbereitet ist, die Narrative der Aufständischen über die angeblichen Gräueltaten eines Feindes verstärken oder die politischen Spaltungen in einer Gesellschaft verschärfen könnten“.
Während Myers von der Virginia Tech anerkennt, dass Programme wie Photoshop seit Jahren zu ähnlich lebensechten Fälschungen fähig sind, sagt er, dass der Unterschied darin besteht, dass Desinformations-KI in großen Mengen und immer ausgefeilter hergestellt werden kann. „
„Photoshop erlaubt gefälschte Bilder“, sagte Myers, „aber KI kann veränderte Videos erstellen, die sehr überzeugend sind.“ Angesichts der Tatsache, dass Desinformation inzwischen eine weit verbreitete Quelle von Online-Inhalten ist, kann diese Art von Fake-News-Inhalten ein viel größeres Publikum erreichen, insbesondere wenn der Inhalt viral geht.“
Ähnlich wie die Videos „Better Call Trump“ und Biden Bud Light.
Myers hat argumentiert, dass wir in naher Zukunft viel mehr Desinformation sehen werden, sowohl visueller als auch schriftlicher, ernster und komischer Art.
Aber Hilfe – in Form staatlicher Regulierung jeglicher Art – scheint nicht auf dem Weg zu sein.
An diesem Mittwoch sagte der ehemalige Google-Chef Erich Schmidt, ein langjähriger Berater im Weißen Haus und kürzlich Co-Vorsitzender der US-amerikanischen Nationalen Sicherheitskommission für KI, er bezweifle, dass die USA eine neue Regulierungsbehörde einsetzen würden, um die KI zu kontrollieren.
„Das Problem ist, dass der Gesetzgeber kein neues Gesetz zur Regulierung der KI schaffen will, bevor wir wissen, wohin die Technologie führt“, sagte Myers.
Dutzende verifizierte Accounts wie WarMonitors, BloombergFeed und RT haben das Bild weitergegeben, auf dem neben einem weißen Gebäude schwarzer Rauch aus dem Boden aufsteigt