Die Zusage erfolgt vor dem Hintergrund der Besorgnis über eine ausländische Einmischung durch Desinformationskampagnen und Cyberangriffe. In der Slowakei, im Vereinigten Königreich und in den Vereinigten Staaten verbreiten sich Videos, Fotos und Audiodaten, die mit allgemein zugänglichen Tools der künstlichen Intelligenz erstellt wurden, um sich als Persönlichkeiten des öffentlichen Lebens, darunter Politiker, auszugeben, um Wähler zu manipulieren. Auch Parteien in Frankreich und Polen haben die Technologie genutzt, um andere Politiker anzugreifen.
„Diese Vereinbarung wird dazu beitragen, das Vertrauen der Wähler zu stärken und ihr Vertrauen in den Wahlprozess zu stärken“, sagte Kommissionsvizepräsidentin Věra Jourová. „Wahlen sollten die Bühne für den Wettbewerb der Ideen bereiten, nicht für schmutzige manipulative Methoden wie KI-Deepfakes.“
Die Parteien einigten sich darauf, „jegliche Form von irreführenden Inhalten unter Verwendung von Audio, Bildern oder Videos, die mit oder ohne künstliche Intelligenz erstellt wurden, nicht zu produzieren, zu verwenden oder zu verbreiten, um Kandidaten, Amtsträger oder Wahlinteressenten fälschlicherweise oder irreführend zu verändern oder zu fälschen“. Solche Inhalte sind nur zulässig, wenn sie eindeutig gekennzeichnet sind. Techniken wie Wasserzeichen und technische Fingerabdrücke, sogenannte Provenienzsignale, werden gefördert.
Plattformen wie Facebook, YouTube und TikTok müssen sicherstellen, dass politische Anzeigen und KI-Deepfakes im Rahmen des neuen EU-Gesetzes zur Inhaltsmoderation, dem Digital Services Act, eindeutig gekennzeichnet werden.
Unternehmen wie Google, der Facebook-Eigentümer Meta und der ChatGPT-Hersteller OpenAI haben im Februar ebenfalls vereinbart, zusammenzuarbeiten, um Tools wie Wasserzeichen und Erkennungstechniken zu entwickeln, um Deepfakes zu erkennen, zu kennzeichnen und zu entlarven.
Zu den weiteren 14 freiwilligen Verpflichtungen in der Charta gehört die Zusage, keine Fake-Accounts und Bots zur Verbreitung politischer Botschaften zu verwenden und politische Werbung, auch über Influencer, offenzulegen. Die europäischen politischen Parteien versprachen außerdem, keine Inhalte zu fördern, die zu Gewalt aufstacheln, auch nicht gegen andere Kandidaten, oder diskriminierende Botschaften zu verbreiten.