[1/5] Der republikanische Präsidentschaftskandidat und Gouverneur von Florida, Ron DeSantis, spricht bei einer Wahlkampfveranstaltung in der Derry-Salem Elks Lodge in Salem, New Hampshire, USA, am 1. Juni 2023. REUTERS/Brian Snyder
SAN FRANCISCO, 8. Juni (Reuters) – Auf einem offenbar veränderten Bild ist der frühere US-Präsident Donald Trump zu sehen, wie er seinen schwarzen Gegner Dr. Anthony Fauci umarmt, der als Antwort strahlt. In einem anderen Fall küsst Trump Fauci auf die Nase.
Diese Bilder, die diese Woche im Wahlkampf des Gouverneurs von Florida, Ron DeSantis, veröffentlicht wurden, zeigen, wie die republikanischen Kandidaten für das Weiße Haus 2024 ihren Wortkrieg in die KI-gesteuerte Social-Media-Arena ausgeweitet haben und Fakten mit Fiktion vermischen.
Die Bilder sind Teil eines Videos, das das Schnellreaktionsteam von DeSantis auf Twitter geteilt hat. Darin wird Trump dafür kritisiert, dass er Fauci nicht entlassen hat, den ehemaligen Spitzenbeamten für Infektionskrankheiten in den USA, dessen Drängen auf COVID-19-Beschränkungen ihn für viele Konservative zum Schreckgespenst gemacht hat.
Das Video enthält offenbar echte Aufnahmen von Trump bei Pressekonferenzen und Interviews. Doch nach 25 Sekunden erscheinen sechs Bilder von Trump und Fauci – darunter drei, auf denen sie sich umarmen oder küssen.
Laut einer Analyse der von synthetischen Bildgeneratoren hinterlassenen Spuren sind diese drei Bilder wahrscheinlich KI-generiert, sagte Matthew Stamm, Professor für Elektro- und Computertechnik an der Drexel University. „Unsere Ergebnisse deuten durchweg darauf hin, dass diese Bilder gefälscht sind“, sagte er.
Das Video offenbart keine potenzielle Verwendung von KI und die DeSantis-Kampagne antwortete nicht auf die Frage, ob die Bilder gefälscht seien oder ob bei ihrer Erstellung KI zum Einsatz gekommen sei.
Ihr Auftritt im Wahlkampf eines Spitzenkandidaten zeigt jedoch, wie schnell die Technologie ihren Weg in die Präsidentschaftswahl 2024 findet, da eine Reihe neuer „generativer KI“-Tools die Erstellung überzeugender Deepfakes kostengünstig und einfach ermöglichen.
„Es war besonders hinterhältig, die echten und die gefälschten Bilder zu vermischen, als ob die Anwesenheit des echten Bildes den anderen Bildern mehr Glaubwürdigkeit verleiht“, sagte Hany Farid, Pionier der digitalen Bildforensik, der an der University of California in Berkeley lehrt.
Eine Person mit Kenntnissen über den Wahlkampfeinsatz von DeSantis sagte, die Trump-Seite habe „kontinuierlich gefälschte Bilder und falsche Gesprächsthemen veröffentlicht, um den Gouverneur zu verunglimpfen“.
Trump, der derzeit Spitzenkandidat für die Präsidentschaftskandidatur der Republikaner ist, hat tatsächlich veränderte Bilder verwendet, um DeSantis, seinen engsten Rivalen, anzugreifen.
Allerdings scheint er vor allem offensichtlich gefälschte Inhalte geteilt zu haben, zum Beispiel ein Bild von DeSantis auf einem Nashorn reitend, eine Andeutung, dass der Gouverneur ein „Republican in Name Only“ (RINO) sei.
Die Trump-Kampagne reagierte nicht sofort auf eine Bitte um Stellungnahme. Sein Team twitterte am Donnerstagabend, dass das Pro-DeSantis-Lager „vorgibt, den Unterschied zwischen Memes und den betrügerischen Fake-Bildern in der DeSanctimonious-Werbung nicht zu kennen“, und benutzte dabei einen von Trumps Spitznamen für seinen Rivalen.
Auch ein Vertreter von Dr. Fauci antwortete nicht sofort.
Das forensische Analysetool von Drexel-Professor Stamm legt nahe, dass die Bilder mit einem KI-Modell namens Diffusionsmodell erstellt wurden, das die Grundlage beliebter KI-Bilderzeugungsprodukte wie DALL-E und Stability AI bildet.
Bisher war die einzige hochkarätige, KI-generierte politische Anzeige in den USA eine, die Ende April vom Republikanischen Nationalkomitee veröffentlicht wurde. Der 30-sekündige Werbespot, von dem das RNC bekannt gab, dass er vollständig von KI erstellt wurde, verwendete gefälschte Bilder, um ein katastrophales Szenario anzudeuten, sollte Biden wiedergewählt werden, wobei China in Taiwan einmarschiert und San Francisco wegen Kriminalität geschlossen wird.
Niemand ist sich sicher, wohin der Weg der generativen KI führt oder wie man sich wirksam vor ihrer Macht für Massenfehlinformationen schützen kann, insbesondere wenn die Qualität der KI zunimmt.
„Irgendwann werden die KI-Systeme Bilder ausgeben, die keine Unterschiede zu echten Bildern aufweisen“, sagte James O’Brien, Professor für Informatik an der University of California in Berkeley. „An diesem Punkt wird es nichts mehr zu erkennen geben.“
Berichterstattung von Alexandra Ulmer und Anna Tong in San Francisco; Zusätzliche Berichterstattung von Seana Davis; Bearbeitung durch Rosalba O’Brien und Stephen Coates
Unsere Standards: Die Thomson Reuters Trust Principles.
