Dieser Artikel ist Teil einer Serie, Bots und Stimmzettel: Wie künstliche Intelligenz Wahlen weltweit verändertpräsentiert von Leuchten.
LONDON – Hannah O’Rourke sitzt in einem für die Jahreszeit ungewöhnlich warmen Park in der britischen Hauptstadt und macht als Verfechterin der künstlichen Intelligenz eine ungewöhnliche Figur.
Die Aktivistin in den Dreißigern hat einen Großteil ihrer frühen Karriere damit verbracht, sich für mehr Rechte für Arbeitnehmer einzusetzen und hat während der Covid-19-Pandemie sogar Lobbyarbeit im Namen von Studenten bei der britischen Regierung betrieben.
Doch im Vorfeld der Parlamentswahlen im Vereinigten Königreich, die voraussichtlich im Herbst stattfinden, lässt O’Rourke ihren inneren Tech-Bruder heraus.
Im Rahmen monatlicher Hackathons haben O’Rourke und andere fortschrittliche Informatiker bei CampaignLab, einer von ihr mitgegründeten gemeinnützigen Organisation, einen KI-gestützten Chatbot entwickelt. Er wurde mit verschiedenen Persönlichkeiten und unterschiedlichen Emotionen ausgestattet und hilft den Freiwilligen dabei, zu lernen, wie sie im Wahlkampf am besten mit potenziell skeptischen Wählern umgehen.
Ein weiteres Crowdsourcing-Projekt nutzte KI-Tools, um politische Diskussionen auf TikTok zu verfolgen. Ein Drittel nutzte handelsübliche KI-Technologie, um verwirrten Wählern dabei zu helfen, die labyrinthische Website der Wahlkommission des Landes zu entschlüsseln.
„Es gibt einige interessante, kreative KI-Lösungen, die Menschen dabei helfen können, in Dingen wie Kampagnen besser zu werden“, sagte O’Rourke letzten Monat bei einem Kaffee an einem heißen Frühlingstag in Südlondon – mit Kindern, die auf einem nahegelegenen Spielplatz lachten, und Pendlern, die sich einen Drink holten auf dem Heimweg von der Arbeit.
„Letztendlich werden Menschen, die Böses tun wollen, KI nutzen“, fügte sie hinzu. „Die Frage ist also: Wie nutzen wir als Menschen, die Gutes tun wollen, dieses Werkzeug in einer Weise, die im Einklang mit dem steht, was wir für richtig halten?“
O’Rourke ist nicht allein. Inmitten des Hypes um KI – der Ende 2022 seinen Höhepunkt erreichte, als OpenAI ChatGPT der Welt vorstellte – sind Aktivisten, Akademiker und Privatunternehmen schnell auf den Zug des nächsten großen Tech-Dings aufgesprungen.
Dazu gehören diejenigen, die einen Vorteil bei der Rekordernte der in diesem Jahr geplanten Wahlen anstreben – von den Wahlen in Bangladesch und Pakistan Anfang 2024 über die Abstimmung im Europäischen Parlament im Juni bis hin zu den Präsidentschaftswahlen im November in den Vereinigten Staaten. Andere wollen KI-Tools nachrüsten, um potenzielle Wahlschäden zu erkennen.
Genau wie vor einem Jahrzehnt, als Kampagnen auf der Welle der sozialen Medien ritten, um direkt mit Wählern zu sprechen, greifen politische Aktivisten im heutigen Zeitalter der KI auf Chatbots, automatisierte Wähler-Targeting-Tools und andere KI-gestützte Zauberei zurück, um sich einen potenziellen Vorteil zu verschaffen bei den Wahlen im Jahr 2024.
Ein wahnsinniger Vorstoß für neue Technologien
In Pakistan hat der inhaftierte ehemalige Staatschef Imran Khan eine nationale Wahl mit Wahlkampfreden und Videos organisiert, die auf generativen KI-Tools basieren. In Indonesien hat der ehemalige Militärchef – und mutmaßliche Kriegsverbrecher – Prabowo Subianto auf dem Weg zu seinem Sieg bei den Präsidentschaftswahlen im Februar im Rahmen eines Rebrandings eine KI-generierte Karikatur von sich selbst erstellt.
In Indien wandte sich der amtierende Premierminister Narendra Modi an KI, um seine Wahlreden während der laufenden Abstimmung im Land automatisch in mehrere Landessprachen zu übersetzen. In Weißrussland unterstützte die Opposition des Landes einen KI-Avatar – der vorgab, ein Kandidat für die Wahlen im Februar zu sein –, der die politischen Fragen der Menschen beantworten würde, ohne eine Inhaftierung befürchten zu müssen.
Nicht alles davon wird klappen.
Kommerzielle Anbieter, die auf der Suche nach neuen Märkten sind, bewerben ihre ungetesteten Waren eifrig in Kampagnen von Technik-Analphabeten, oft begeistert von Versprechungen darüber, was KI ihnen bieten kann. Andere Firmen haben langjährige Wahlkampfpraktiken – wie die gezielte Ansprache von Menschen in sozialen Medien anhand ihrer persönlichen Interessen oder die Verwendung von Daten zur Entschlüsselung der Wählerabsichten – in neuartige KI-Dienste umbenannt, in der Hoffnung, damit erfolgreich zu sein.
Sogar Aktivisten wie O’Rourke geben zu, dass Politiker, die sich beeilen, mit den neuesten Trends Schritt zu halten, darauf achten müssen, sich nicht zu stark auf eine Technologie zu verlassen, die den Bürgern zu viel verspricht oder zu wenig liefert.
„Jeder Anbieter versucht immer, einen Vorteil zu finden, das nächste Neue“, sagte Katie Harbarth, eine ehemalige Beraterin der US-Republikaner, die, während sie später bei Facebook arbeitete, dazu beitrug, Gesetzgeber über das Wahlkampfpotenzial des Social-Media-Netzwerks während des früheren Wahlkampfs aufzuklären Technikwahn.
„Das Problem bei Kampagnen besteht darin, dass sie nicht wissen, wer Schlangenöl liefert oder wer das Original hat“, fügte sie hinzu.
KI-Kampagnen – zu mieten
Wann immer sie versuchen, ihre Software zu verkaufen, haben Randy Saaf und Octavio Herrera einen grundlegenden Pitch: Sie erstellen einen KI-gestützten Klon der Stimme des potenziellen Kunden.
Die beiden Technikfreaks begannen Anfang der 2000er Jahre damit, Musiklabels dabei zu helfen, Unternehmen wie Napster, den Musik-Sharing-Dienst, der in der Dotcom-Ära berühmt wurde, daran zu hindern, ihre Inhalte zu raubkopieren. Doch als ChatGPT Ende 2022 die Fantasie der Öffentlichkeit im Sturm eroberte, witterte das in Kalifornien ansässige Team eine Chance.
Innerhalb weniger Monate hatten sie ein Tool namens Wolfsbane AI entwickelt, das digitale Markierungen in Audio- und Videoinhalte einbettete, wodurch es unmöglich wurde, solches Material mithilfe künstlicher Intelligenz zu klonen. Benutzer können Inhalte auf die Plattform des Startups hochladen und so Audio- und Videoclips vor potenziellem Schaden schützen.
„Wir haben es rund um die Unterhaltungsindustrie entwickelt, aber schnell erkannt, dass dies ein großes Sicherheitsproblem für Deepfakes darstellt“, sagte Saaf POLITICO über einen Zoom-Link aus seinem Homeoffice in Los Angeles. „Damals begannen wir, uns für die Kontaktaufnahme mit Politikern zu interessieren.“
Bisher haben Saaf und Herrera nur einen einzigen Abgeordneten verpflichtet, den US-Demokraten Eric Swalwell – einen Kalifornier, der im Heimat- und Justizausschuss des Repräsentantenhauses sitzt.
Im Dezember hörte das Duo, wie er über die Bedrohung der Wahlsicherheit durch KI sprach – und rief am nächsten Tag kalt in seinem Büro an. Anfang April hatte ihr Unternehmen damit begonnen, die Social-Media-Inhalte von Swalwell vor der Bedrohung durch KI-generierte Deepfakes zu schützen. (Weder Saaf noch Herrera wollten die Kosten des KI-Dienstes offenlegen.)
Herrera, der Mitbegründer von Saaf, ist realistisch, was die große Herausforderung angeht, vor der sie stehen – auch wenn allein in den USA vor den Wahlen im November möglicherweise bereits Milliarden von Dollar für die Wahlkampffinanzierung vorgesehen sind. Der Pitch, fügte er hinzu, beinhalte oft die Nachahmung einer schnellen Kopie der Stimme eines Gesetzgebers, die Demonstration, was die Technologie tun kann, um solche Bemühungen abzuwehren, und sich dann schnell an Mitarbeiter mit mehr Technikkenntnissen zu wenden, um die Einzelheiten herauszufinden.
„Das kann Monate dauern“, räumte er ein, „und leider kommt die Wahl schnell.“
Auf der anderen Seite des Atlantiks hat die in Vilnius lebende Simona Vasytė-Kudakauskė ein ähnliches Problem.
Als Leiterin von Perfection42, einem Boutique-Beratungsunternehmen, das mithilfe sogenannter großer Sprachmodelle Tausende von KI-generierten Inhalten für Werbeagenturen und Marken weltweit erstellt, möchte Vasytė-Kudakauskė das Potenzial der Technologie auch für politische Kampagnen nutzen.
Viele haben sich auf die Risiken konzentriert – die Deepfakes von Politikern und die gezielte Ansprache von Wählern durch Algorithmen –, argumentiert sie, dass solche Taktiken auch genutzt werden können, um potenzielle Wähler besser zu erreichen. In dieser Welt, fügt Vasytė-Kudakauskė hinzu, kann KI digitales Kampagnenmaterial automatisch in mehrere Sprachen übersetzen; schnell politische Bilder für ein paar Cent pro Dollar generieren; und sogar spezifische Botschaften in den sozialen Medien anpassen, um unentschlossene Wähler anzulocken.
„Wir arbeiten mit einigen kommerziellen Agenturen zusammen, um visuelle Inhalte zu erstellen, und Wahlen sind auch nur eine Werbekampagne“, sagte sie Anfang des Monats in einer Videokonferenz zu Google Meet. „Es ist dasselbe, aber auf eine andere Art und Weise für einen anderen Zweck.“
Das mag plausibel klingen – theoretisch. Aber die Realität des politischen Wahlkampfs – insbesondere im Vorfeld der bevorstehenden Europawahl im Juni, bei der die 27 Mitgliedsländer der Union getrennt und gleichzeitig abstimmen werden – sieht völlig anders aus.
Trotz des Pitches von Perfection42 gab Vasytė-Kudakauskė zu, dass ihr Beratungsunternehmen nur noch etwas mehr als zwei Wochen bis zur EU-Wahl noch keine einzige Kampagne für sein KI-gestütztes Angebot angemeldet habe.
In den Gesprächen von POLITICO mit mehreren anderen Agenturen in der EU konnten auch keine spezifischen Kampagnen aufgedeckt werden, bei denen externe Berater zur Ergänzung traditioneller Kampagnentaktiken durch KI eingesetzt wurden – obwohl mehrere Kandidaten intern mit der Generierung von Inhalten über Tools wie ChatGPT experimentiert hatten.
„Sie können Inhalte für Ihre Benutzer personalisieren, nicht nur für schlechten Einfluss, sondern auch für guten Einfluss“, sagte die Litauerin und drehte sich schnell um, als POLITICO fragte, warum ihr Unternehmen – trotz seiner Bemühungen, die positiven Vorteile von KI für Kampagnen darzustellen – dies noch getan habe Finden Sie Abnehmer. „Aus irgendeinem Grund tun die Leute das nicht. Sie verlieren den Krieg, weil sie nicht auf dem gleichen Stand sind.“
Ein KI-Mondschuss
Oren Etzioni hat den ultimativen Flex, wenn er beschreibt, wie seine auf KI ausgerichtete gemeinnützige Organisation ins Leben gerufen wurde.
Der amerikanische Technologieunternehmer und KI-Akademiker war letzten Sommer bei einem Treffen in San Francisco mit einem bemerkenswerten Headliner: US-Präsident Joe Biden.
Während einer Diskussion mit anderen Experten, so Etzioni gegenüber POLITICO, seien alle durch den Raum gegangen, um ein sogenanntes Moonshot-Projekt oder eine spannende Idee zu beschreiben, an der sie arbeiteten. Während er darauf wartete, dass er an die Reihe kam, erkannte der Forscher, dass es in diesem Jahr der globalen Wahlen keine gute Möglichkeit gab, Deepfakes schnell zu erkennen und so die Aufmerksamkeit der Öffentlichkeit zu erregen.
„Der Presse, den Faktenprüfern und der Öffentlichkeit stand wirklich kein geeignetes Tool zur Verfügung, um zu beurteilen, ob es sich bei einem Bild, Video oder Audio um einen Deepfake handelt oder nicht“, sagte Etzioni. „Wir haben uns vorgenommen, eines zu bauen.“
Kommerzielle Anbieter wie Reality Defender oder Sensity AI verlangen für eine solche Erkennung bereits hohe Gebühren. Doch innerhalb weniger Monate hatte Etzioni Garrett Camp, einen Mitbegründer von Uber, für die Finanzierung gewonnen und TrueMedia.org gegründet.
Die gemeinnützige Organisation kombiniert die Erkennungstools ihrer kostenpflichtigen Konkurrenten mit eigenen internen Methoden, um den Nutzern eine prozentuale Bewertung zu geben, mit der sie abschätzen können, wie wahrscheinlich es ist, dass ein Bild, ein Video oder ein Audioclip gefälscht ist. Menschen können einen Weblink zu verdächtigen Inhalten einfügen oder Material direkt hochladen. TrueMedia bewertet dann die Wahrscheinlichkeit, dass etwas KI-generiert ist – obwohl Etzioni zugibt, dass die Ergebnisse nicht perfekt sind.
Als POLITICO beispielsweise den kostenlosen Dienst nutzte, konnte das System etwa 85 Prozent der Deepfakes erkennen.
Etzioni sagte, dass im Mai Tausende von Menschen – von Akademikern und Journalisten bis hin zu Wahlbeamten und Mitarbeitern der US-Bundesregierung – sein Produkt nutzten. Er würde nicht sagen, wie viel es gekostet hat, das Erkennungstool auszuführen. Laut dem KI-Experten seien die Kosten jedoch gesunken, da die KI-Systeme von TrueMedia auf eine immer größere Anzahl von Abfragen trainiert wurden.
“Es ist von der Konzeption her – jetzt und in Zukunft – ein Verlustgeschäft”, räumte er ein und lehnte es erneut ab, seine Pläne für den Dienst nach den US-Wahlen im November zu kommentieren. “Unsere Idee ist es, ein öffentlicher Dienst zu sein, und öffentliche Dienste haben ihren Preis.”
Für Kate Dommett, Professorin für digitale Politik an der University of Sheffield im Vereinigten Königreich, stellt der Aufstieg von KI-Tools speziell für den diesjährigen Wahlzyklus – sowohl von kommerziellen Anbietern als auch von gemeinnützigen Organisationen – den Startschuss und nicht das Ziel der Technologie dar Evolution.
Dommett ist ein Experte dafür, wie politische Kampagnen weltweit die neuesten technischen Fortschritte genutzt haben. Inmitten des KI-Hypes bleibt sie skeptisch, dass die aktuelle Kohorte von Diensten, insbesondere diejenigen, die über komplexe Algorithmen und sogenannte Datenanalysen Einblicke in die Erreichung von Menschen in sozialen Medien bieten, mehr als nur Schall und Rauch sind.
Sie fügte hinzu, es gehe eher darum, dass Berater bestehende Dienste mit einem KI-Label umfunktionieren, als um etwas wirklich Revolutionäres.
„Es fühlt sich so früh an, es ist wirklich schwer zu wissen, was wirklich los ist“, sagte Dommett. „Viele dieser Tools sind ziemlich fehlerhaft. Ich glaube nur, dass wir noch nicht an dem Punkt sind, an dem wir wirklich darauf vertrauen können, dass sie tatsächlich gute Arbeit leisten.“
Dieser Artikel ist Teil einer Serie, Bots und Stimmzettel: Wie künstliche Intelligenz Wahlen weltweit verändertpräsentiert von Leuchten. Der Artikel wird in völliger redaktioneller Unabhängigkeit von POLITICO-Reportern und -Redakteuren produziert. Erfahren Sie mehr über redaktionelle Inhalte, die von externen Werbetreibenden präsentiert werden.