Die KI-Tools untergraben unsere eigenen Augen und Ohren – POLITICO

Dieser Artikel ist Teil einer Serie, Bots und Stimmzettel: Wie künstliche Intelligenz Wahlen weltweit verändert.

Haben Sie schon einmal einen Deepfake gesehen? Noch wichtiger: Können Sie den Unterschied zwischen diesen KI-generierten Bildern, Audioclips und Videos und dem Original erkennen?

Während sich mehr als zwei Milliarden Wähler in 50 Ländern auf die nationalen Wahlen im Jahr 2024 vorbereiten, war diese Frage – und die Fähigkeit solcher Deepfakes, die Entscheidungen potenzieller Wähler bei den Wahlen zu verfälschen – noch nie so kritisch.

Ein typisches Beispiel: Laut einer Überprüfung der sogenannten Community Notes der Plattform durch die Brookings Institution, einer Crowdsourcing-Initiative zur Faktenprüfung, haben Menschen in den letzten Monaten zunehmend mutmaßlich KI-gestützte Deepfake-Bilder, Audiodateien und Videos auf X (ehemals Twitter) gemeldet auf dem Bahnsteig.

POLITICO hat beschlossen, Sie auf die Probe zu stellen.

Mit Midjourney, einem KI-Forschungslabor, dessen Technologie lebensechte Bilder erstellen kann, indem jemand einfach Vorschläge in die Online-Plattform des Unternehmens eingibt, sammelte POLITICO eine Reihe realer Bilder – und solche, die durch künstliche Intelligenz generiert wurden. Wiederholte weltweite Versuche haben gezeigt, dass Menschen digitale Fälschungen im Vergleich zu legitimen Bildern im Durchschnitt in etwa 60 Prozent der Fälle erkennen können, so Vertreter von Technologieunternehmen, mit denen POLITICO gesprochen hat.

Während sich die Technologie noch in der Entwicklungsphase befindet, bereitet die Fähigkeit eines jeden – einschließlich POLITICO-Reportern – mit ein paar Klicks auf der Tastatur solche realistischen Bilder zu erstellen, Sorgen bei Politikern, politischen Entscheidungsträgern und Desinformationsexperten.

Wenn die KI jedem, der über einen Laptop, eine Internetverbindung und 50 US-Dollar für den Zugriff auf diese leistungsstarken Tools verfügt, eine solche Macht verleiht, könnten in den kommenden Monaten solche gefälschten politischen Inhalte die Social-Media-Feeds der Menschen überschwemmen.

Wie gut wirst du abschneiden? Nehmen Sie am Quiz teil, bevor Sie den Rest der Geschichte lesen. (Spoiler unten!)

Wer möchte ein Klon sein?

Von den potenziellen Deepfake-Bedrohungen in diesem Jahr machen sich Cybersicherheits- und Desinformationsexperten am meisten Sorgen um Audio.

Bisher wurden fast alle umstrittenen KI-generierten Bilder innerhalb weniger Stunden entlarvt, vor allem aufgrund der Macht der sozialen Medien, schnell Fehler in diesen Fotos zu sammeln, die sonst oft nicht wahrnehmbar wären. Auch große Technologieunternehmen und unabhängige Faktenprüfer haben der Aufdeckung und Beseitigung solcher schädlichen, politisch motivierten Unwahrheiten Priorität eingeräumt.

Aber Audio – insbesondere die KI-gestützten körnigen Clips, die erfolglos verwendet wurden, um den Vorsitzenden der britischen Labour-Partei, Keir Starmer, zu diffamieren – bleiben Neuland. Die Diskrepanz zwischen dem, was die Leute hören, und dem, was sie sehen, kann Einzelpersonen oft dazu verleiten, zu glauben, dass ein hetzerischer Deepfake-Audioclip legitim ist.

Um diese Theorie zu testen, nutzte POLITICO handelsübliche Technologien, deren Anschaffung insgesamt weniger als 50 US-Dollar kostete, um zu sehen, wie einfach es war, einen Deepfake-Audioclip zu erstellen. Ursprünglich wollten wir echte Politiker klonen. Da solche Unwahrheiten jedoch sowohl rechtlich zweifelhaft sind als auch eine direkte Bedrohung für den diesjährigen Wahlzyklus darstellen, haben wir uns stattdessen entschieden, die Stimmen der POLITICO-Reporter nachzuahmen.

Sie können selbst beurteilen, ob diese KI-generierten Clips gut genug sind, um Sie zu täuschen.

KI Biden vs. KI Trump

Die nächste Grenze von KI-Deepfakes sind Videos – insbesondere Inhalte, die in Echtzeit mit Menschen interagieren können.

Und wenn es um politisch motivierte KI-gestützte Fotos geht, ist ein Bürogebäude aus der Sowjetzeit nahe der deutsch-polnischen Grenze zum Ausgangspunkt geworden, um zu demonstrieren, wie sich diese Technologie weiterentwickelt.

Dort erstellten Forscher inmitten einer Gruppe von Aktivisten, die als Singularity Group bekannt ist, eine fortlaufende Online-Videodebatte in Echtzeit zwischen einem KI-gesteuerten Joe Biden und einem KI-generierten Donald Trump.

Das seit fast neun Monaten laufende Projekt nutzt sogenannte Open-Source-Technologie, also für die Öffentlichkeit frei zugängliche KI-Modelle. Es ermöglicht jedem, eine Debattenfrage einzugeben – über den Amazon-eigenen Streaming-Dienst Twitch – und dann starten die Biden/Trump-Bots, berechnen über die KI-Systeme von Singularity eine Antwort und spucken sie aus, indem sie die Stimmen und Bilder der Politiker nachahmen.

„Deepfakes sind ein echtes Problem“, sagte Reese Leysen, eine der Aktivistinnen hinter dem Projekt, das – was wichtig ist – auf Twitch als Parodie bezeichnet wird. „Wir wollten den Fokus auf Politiker legen, um Aufmerksamkeit zu erregen.“

POLITICO stellte den falschen Biden und Trump mehrere Fragen aus der realen Debatte. Die meisten waren entweder zu anstößig oder zu sehr mit Obszönitäten gefüllt, um sie zu veröffentlichen – was nicht verwunderlich ist, wenn man bedenkt, dass dieses KI-System fast ein Jahr lang darauf trainiert wurde, dass zufällige Personen ihm im Internet Fragen stellten.

Aber unten sind die beiden am wenigsten anschaulichen Videos. Ist die Technologie perfekt? Definitiv nicht. Aber es ist eine Momentaufnahme dessen, wohin die Reise geht.

Fragen Sie die Bots

Wir haben dem falschen Donald Trump und Joe Biden ein paar reale Debattenfragen gestellt. Hier ist, wie sie geantwortet haben.

Aufforderungsfrage Nr. 1: Welche Disney-Figur repräsentiert Ihren politischen Gegner am besten und warum?