Letzte Woche, am Vorabend der Vorwahlen in New Hampshire, erhielten einige Wähler des Staates einen Robocall, der angeblich von Präsident Joe Biden stammte. Im Gegensatz zu den anderen zuvor aufgezeichneten Anrufen, die die Menschen daran erinnerten, zu wählen, lautete die Aufforderung bei diesem anders: „Machen Sie sich nicht die Mühe, zur Wahl zu gehen“, befahl die Stimme. Besser ist es, „seine Stimme für die Wahl im November aufzubewahren“.
Die Nachricht war seltsam, sogar unsinnig, aber die Stimme in der Leitung klang tatsächlich wie die des Präsidenten. „Was für ein Blödsinn!“ rief es einmal. Laut Associated Press zeigte die Anruferkennung, dass der Anruf von einem ehemaligen Vorsitzenden der New Hampshire Democratic Party kam. Aber dieser Robocall scheint es gewesen zu sein KI-generiert. Wer es geschaffen hat und warum, bleibt ein Rätsel.
Auch wenn der Trick wahrscheinlich keinen wirklichen Einfluss auf den Ausgang der Wahl hatte – Biden gewann erwartungsgemäß mit einem Erdrutschsieg – veranschaulichte er doch anschaulich eine der vielen Möglichkeiten, wie generative KI eine Wahl beeinflussen könnte. Diese Tools können Kandidaten dabei helfen, ihre Botschaft leichter zu verbreiten, aber sie können es auch jedem ermöglichen, Bilder und Clips zu erstellen, die Wähler täuschen könnten. Vieles von dem, was KI für die Politik tun wird, war bestenfalls spekulativ, aber aller Wahrscheinlichkeit nach wird die Welt bald einige Antworten erhalten. Im Jahr 2024 werden mehr Menschen die Möglichkeit haben, zu wählen als in jedem Jahr zuvor, und zwar nicht nur in den USA, sondern auch in der Europäischen Union, in Indien, Mexiko und anderen Ländern. Es ist das Jahr der KI-Wahl.
Bisher konzentrierte sich ein Großteil der Aufmerksamkeit auf KI und Wahlen auf Deepfakes, und das nicht ohne Grund. Die Drohung – dass selbst etwas, das scheinbar auf Tonband festgehalten wurde, falsch sein könnte – ist sofort verständlich, wirklich beängstigend und nicht länger hypothetisch. Bei besserer Ausführung und in einem engeren Rennen wäre so etwas wie der Fake-Biden-Robocall vielleicht nicht belanglos gewesen. Für ein Alptraumszenario braucht es keine Fantasie: In den letzten Tagen der knappen slowakischen Nationalwahl im vergangenen Herbst tauchten gefälschte Audioaufnahmen eines Spitzenkandidaten auf, der Pläne zur Abstimmungsmanipulation (und ausgerechnet zur Verdoppelung des Bierpreises) besprach.
Dennoch gibt es Grund zur Skepsis gegenüber der Bedrohung. „Deepfakes sind seit etwa vier Jahren das nächste große Problem, das in den nächsten sechs Monaten aufkommt“, sagte mir Joshua Tucker, Co-Direktor des NYU Center for Social Media and Politics. Auch vor den Wahlen im Jahr 2020 waren die Leute über sie in Panik, schrieben dann Artikel darüber, warum die Drohungen nicht eingetreten waren, und waren danach immer wieder in Panik. Dies steht im Einklang mit der allgemeinen Tendenz der Medien, die Bedrohung durch Versuche zur absichtlichen Irreführung von Wählern in den letzten Jahren zu überbewerten, sagte Tucker: Wissenschaftliche Untersuchungen deuten darauf hin, dass Desinformation möglicherweise einen relativ kleinen Anteil der Nachrichtenaufnahme eines durchschnittlichen Amerikaners ausmacht und sich auf eine kleine Gruppe konzentriert Minderheit der Menschen, und angesichts der Polarisierung des Landes wird dies wahrscheinlich nicht viele Meinungen ändern.
Dennoch könnte die übermäßige Besorgnis über Deepfakes zu einem eigenen Problem werden. Während die Sorge erster Ordnung darin besteht, dass Menschen getäuscht werden, besteht die Sorge zweiter Ordnung darin, dass die Angst vor Deepfakes dazu führen wird, dass Menschen allem misstrauen. Forscher nennen diesen Effekt „die Dividende des Lügners“, und Politiker haben bereits versucht, ungünstige Clips als KI-generiert abzutun: Letzten Monat behauptete Donald Trump fälschlicherweise, dass eine Angriffsanzeige KI verwendet habe, um ihn schlecht aussehen zu lassen. „Deepfake“ könnte zur „Fake News“ des Jahres 2024 werden, ein seltenes, aber echtes Phänomen, das als Mittel zur Diskreditierung der Wahrheit missbraucht wird. Denken Sie an Steve Bannons berüchtigte Behauptung, der Weg, die Medien zu diskreditieren, bestehe darin, „die Zone mit Scheiße zu überfluten“.
KI hat die Grundlagen nicht verändert; Es hat lediglich die Produktionskosten für die Erstellung von Inhalten gesenkt, unabhängig davon, ob diese täuschen sollen oder nicht. Aus diesem Grund waren sich die Experten, mit denen ich gesprochen habe, einig, dass KI weniger dazu geeignet ist, neue Dynamiken zu schaffen, sondern bestehende zu verstärken. Präsidentschaftskampagnen mit ihren grenzenlosen Kassen und dem riesigen Personal verfügen seit langem über die Möglichkeit, bestimmte Wählergruppen mit maßgeschneiderten Botschaften anzusprechen. Sie verfügen möglicherweise über Tausende von Datenpunkten darüber, wer Sie sind, die sie durch das Sammeln von Informationen aus öffentlichen Aufzeichnungen, Social-Media-Profilen und kommerziellen Maklern erhalten – Daten über Ihren Glauben, Ihre Rasse, Ihren Familienstand, Ihre Bonität, Ihre Hobbys, die Probleme die dich motivieren. Sie nutzen all dies, um Wähler mit Online-Anzeigen, E-Mails, Textnachrichten, Türklopfen und anderen Arten von Nachrichten gezielt anzusprechen.
Mit der verfügbaren generativen KI können lokale Kampagnen jetzt dasselbe tun, sagte mir Zeve Sanderson, der Geschäftsführer des NYU Center for Social Media and Politics. Große Sprachmodelle sind bekanntermaßen gute Nachahmer, und Kampagnen können sie verwenden, um sofort Nachrichten in der spezifischen Umgangssprache einer Community zu verfassen. Der Bürgermeister von New York City, Eric Adams, hat KI-Software verwendet, um seine Stimme in Sprachen wie Jiddisch, Spanisch und Mandarin zu übersetzen. „Es ist jetzt so billig, sich auf diese Massenpersonalisierung einzulassen“, sagte mir Laura Edelson, Informatikprofessorin an der Northeastern University, die sich mit Fehlinformationen und Desinformation beschäftigt. „Es wird die Erstellung dieser Inhalte einfacher und kostengünstiger machen und mehr Communities zugänglich machen.“
Diese bloße Leichtigkeit könnte die bereits anfällige Wahlinfrastruktur der Demokratien überfordern. Seit 2020 werden lokale und staatliche Wahlhelfer angegriffen, und KI könnte die Lage noch verschlimmern. Sanderson erzählte mir, dass Staatsbeamte bereits mit Anfragen zum Freedom of Information Act überschwemmt werden, von denen sie glauben, dass sie KI-generiert sind, was möglicherweise Zeit verschlingt, die sie für ihre Arbeit benötigen. Diese Beamten hätten auch ihre Besorgnis geäußert, sagte er, dass die generative KI die Belästigung, der sie ausgesetzt sind, beschleunigen werde, indem sie das Verfassen und Versenden von Hassmails praktisch mühelos mache. (Die Folgen können für Frauen besonders schwerwiegend sein.)
Ebenso könnte es auch eine direktere Bedrohung für die Wahlinfrastruktur darstellen. Anfang dieses Monats veröffentlichte ein Trio aus Cybersicherheits- und Wahlbeamten einen Artikel in Auswärtige Angelegenheiten Warnung, dass Fortschritte in der KI zahlreichere und ausgefeiltere Cyberangriffe ermöglichen könnten. Diese Taktiken standen beispielsweise ausländischen Regierungen schon immer zur Verfügung, und frühere Angriffe – insbesondere der russische Hackerangriff auf die E-Mail von John Podesta im Jahr 2016 – haben völliges Chaos angerichtet. Aber mittlerweile kann so ziemlich jeder – egal welche Sprache er spricht und wie gut er schreiben kann – Hunderte von Phishing-E-Mails in fließender englischer Prosa versenden. „Die Auswirkungen der KI auf die Cybersicherheit auf Wahlen und die Wahlintegrität rücken wahrscheinlich nicht annähernd so in den Fokus, wie sie sollten“, sagte mir Kat Duffy, Senior Fellow für Digital- und Cyberspace-Politik beim Council on Foreign Relations.
Wie sich all diese Bedrohungen auswirken, hängt stark vom Kontext ab. „Plötzlich ist es bei Kommunalwahlen für Menschen ohne Ressourcen sehr einfach, Inhalte in großem Maßstab zu produzieren, die kleinere Rassen mit weniger Geld möglicherweise nie zuvor gesehen hätten“, sagte Sanderson. Erst letzte Woche tauchten KI-generierte Audioaufnahmen auf, in denen ein Politiker aus Harlem einen anderen kritisierte. New York City verfügt möglicherweise über das robusteste Lokalnachrichten-Ökosystem aller Städte in Amerika, aber anderswo, in Gemeinden ohne die auf nationaler Ebene vorhandenen Medienbeobachtungs- und Faktenprüfungsapparate, könnten Audioaufnahmen wie diese zu noch größerem Chaos führen.
Die Unterschiede von Land zu Land könnten durchaus noch extremer sein, sagte mir der Schriftsteller und Technologe Usama Khilji. In Bangladesch nutzen Unterstützer der Regierungspartei Deepfakes, um die Opposition zu diskreditieren. In Pakistan hat der ehemalige Premierminister Imran Khan – der letztes Jahr im Gefängnis landete, nachdem er das Militär des Landes herausgefordert hatte – Deepfakes genutzt, um „Reden“ vor seinen Anhängern zu halten. In Ländern, in denen Sprachen gesprochen werden, in denen LLMs weniger Online-Texte verschlingen können, sind KI-Tools möglicherweise weniger ausgefeilt. Aber diese Länder seien wahrscheinlich diejenigen, in denen Technologieplattformen der Verbreitung von Deepfakes und anderen Desinformationen am wenigsten Aufmerksamkeit schenken würden, sagte mir Edelson. Indien, Russland, die USA, die EU – hier werden sich die Plattformen konzentrieren. „Alles andere“ – Namibia, Usbekistan, Uruguay – „wird ein nachträglicher Einfall sein“, sagte er.
Die größeren oder wohlhabenderen Länder werden die meiste Aufmerksamkeit erhalten, und die auffälligeren Themen werden die meiste Sorge hervorrufen. Auf diese Weise ähneln die Einstellungen gegenüber den Auswirkungen der KI auf Wahlen den Einstellungen gegenüber den Risiken der Technologie insgesamt. Es ist etwas mehr als ein Jahr her, seit ChatGPT auf den Markt kam, etwas mehr als ein Jahr, in dem wir davon gehört haben, dass dies die massenhafte Eliminierung von Büroarbeit und die Integration von Chatbots in alle Bereiche der Gesellschaft bedeuten wird , der Beginn einer neuen Welt. Aber die Haupteinflüsse der KI auf das Leben der meisten Menschen bleiben eher im Hintergrund: Google-Suche, automatische Vervollständigung, Spotify-Vorschläge. Die meisten von uns neigen dazu, sich über das potenziell gefälschte Video zu ärgern, das die Hälfte der Nation täuscht, und nicht über die Flut von FOIA-Anfragen, die bereits jetzt Wahlbeamte begraben. Wenn diese Denkweise mit Kosten verbunden ist, könnte die Welt dieses Jahr bei den Wahlen dafür bezahlen.