Deepfake-Identitätsdiebstahl steht vor unserer Haustür
Gefälschte KI-Bilder und -Videos werden kaum mehr von echten Bildern zu unterscheiden sein, da die Technologie hinter Deepfakes voranschreitet, sagt ein Berkeley-Professor der University of California.
Die Federal Election Commission (FEC) muss prüfen, ob sie Regeln festlegen muss, um zu verhindern, dass politische Kampagnen künstliche Intelligenz verwenden, um Anzeigen zu erstellen, die darauf abzielen, Wähler zu täuschen, während der Wahlzyklus 2024 in vollem Gange ist, sagte ein KI-Bildanalyst.
„Die FEC muss darüber nachdenken, ob und wie sie den Einsatz manipulierter Medien im Dienste ihres eigenen Kandidaten durch eine Kampagne regulieren kann“, schrieb Hany Farid, Professor an der University of California, Berkeley, kürzlich in einem Meinungsbeitrag für The Hill. „Die Manipulation der Fotoaufzeichnung ist nur der erste Schritt zur Verbreitung von Lügen.“
Präsidentschaftskampagnen haben bereits damit begonnen, künstliche Intelligenz zur betrügerischen Manipulation einzusetzen ihre Kampagnenanzeigen. Vor allem die Kampagne des Gouverneurs von Florida, Ron DeSantis, nutzte KI-generierte Audio- und Videoaufnahmen, um die Politik des ehemaligen Präsidenten Trump zu kritisieren, beispielsweise ein fiktives Bild von Trump, der Anthony Fauci liebevoll umarmt.
UC BERKELEY-PROFESSOR WARNT VOR DEEPFAKE-KI-BILDERN UND -VIDEOS:
WEITERE DIGITALE ORIGINALE VON FOX NEWS SEHEN SIE HIER
„Es geht jedoch nicht grundsätzlich um KI oder Technologie, sondern um die Standards, an die wir unsere aktuellen und zukünftigen Führungskräfte halten wollen“, sagte Farid. „Zu diesem Zweck erscheint es äußerst vernünftig, darauf zu bestehen, dass unsere Politiker ehrlich sind.“
Ein PAC, das DeSantis unterstützt, hat eine Anzeige mit KI-generiertem Audio erstellt, die Trumps Stimme nachahmt, in der er die Gouverneurin von Iowa, Kim Reynolds, kritisiert. Die KI-Stimme scheint auf Kommentaren zu basieren, die Trump auf Truth Social geschrieben, aber nie laut ausgesprochen hat.
In einem weiteren Video, das von Trumps Wahlkampfteam verbreitet wurde, wurde DeSantis‘ Präsidentschaftsankündigung für 2024 mithilfe künstlicher Intelligenz auf Twitter nachgebildet. Die Parodie zeigte einen Twitter-Raum mit fiktiven Gästen, darunter der milliardenschwere demokratische Spender George Soros, der Vorsitzende des Weltwirtschaftsforums Klaus Schwab, der ehemalige Vizepräsident Dick Cheney, Adolph Hitler, der Teufel und das FBI.
Der frühere Präsident Donald Trump (links) und der republikanische Gouverneur von Florida, Ron DeSantis (rechts), haben beide in ihren Wahlkampfanzeigen künstliche Intelligenz eingesetzt. (Joe Raedle/Getty Images / Giorgio Viera/AFP über Getty Images)
WAS IST KÜNSTLICHE INTELLIGENZ (KI)?
„Die Desinformationskampagnen werden jetzt durch generative KI-Audio, Bilder und Videos vorangetrieben“, sagte Farid im April gegenüber Fox News. „Jedes Mal, wenn ich den Präsidenten oder einen Kandidaten oder einen CEO oder einen Reporter sprechen sehe, bleiben da immer noch Zweifel.“
Die FEC hat letzte Woche eine Petition eingereicht, die von der gemeinnützigen Organisation Public Citizen eingereicht wurde und die darauf abzielt, irreführende KI-generierte Inhalte in das Verbot der Kommission gegen „betrügerische Falschdarstellung“ in Wahlkampfanzeigen einzubeziehen. Die FEC wird weitere Maßnahmen in Betracht ziehen, nachdem die öffentliche Kommentierungsfrist am 16. Oktober endet.
GESETZGEBER, DIE „JCPENNEY-FREIZEITANZÜGE“ TRAGEN, MIT „8-SPUR-Kassettenspielern“, DIE KI REGULIEREN, BEDEUTET PROBLEM: GOP REP
Der Gesetzgeber hat Fox News außerdem mitgeteilt, dass er besorgt darüber sei, welchen Einfluss KI auf die Wahlen haben werde, insbesondere auf die Präsidentschaftswahl 2024.
„Im Moment sind wir im Wilden Westen“, sagte der demokratische Senator von Connecticut, Richard Blumenthal, Ende Juli gegenüber Fox News. „KI ermöglicht nicht nur faktisch die Aneignung kreativer Produkte … sondern auch Identitätsdiebstahl, Deepfakes und viele schlechte Dinge.“
Senator Richard Blumenthal sagte gegenüber Fox News, er glaube, dass Deepfake-Videos Auswirkungen auf die Wahlen 2024 haben werden. (Jon Michael Raasch/Fox News Digital)
Unterdessen geht der AI Accountability Act durch das Repräsentantenhaus. Sollte der Gesetzentwurf in Kraft treten, würden Beamte des Handelsministeriums angewiesen, sich mit Branchenvertretern zu treffen und innerhalb von 18 Monaten nach Verabschiedung einen Bericht über Bedrohungen durch KI-Systeme zu erstellen.
KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN
„Die Landschaft der fotografischen Manipulation ist lang und vielfältig und wird sich über die heutige generative KI hinaus weiterentwickeln“, schrieb Farid. „Die Kraft der generativen KI stellt in Verbindung mit der Reichweite und Geschwindigkeit der Verbreitung und Verstärkung durch soziale Medien eine echte Bedrohung für ein Informationsökosystem dar, das bereits mit Halbwahrheiten, Lügen und Verschwörungen verschmutzt ist.“
Um das neueste Interview von Digital Originals mit Farid anzusehen, klicken Sie hier.