Iverna McGowan ist Direktorin des Europabüros des Center for Democracy & Technology.
Würden Sie Europol Bilder Ihrer Kinder anvertrauen? Mit Bildern von Ihren Haustieren, Freunden und allem anderen auf Ihrer Kamerarolle?
In einem fehlgeleiteten Versuch zur Bekämpfung von Material über sexuellen Missbrauch von Kindern (CSAM) hat die Europäische Kommission einen neuen Vorschlag vorgelegt, der genau dazu führen könnte. Angeblich darauf ausgelegt, „jeden möglichen Missbrauch“ aufzudecken, würde dieser Vorschlag im Wesentlichen ein Massenüberwachungssystem in der gesamten Europäischen Union schaffen.
Wenn Ihnen das neu ist, liegt es wahrscheinlich daran, dass der Gesetzgeber die Gesetzgebung ausschließlich als ein Durchgreifen gegen CSAM formuliert – was ein sehr wichtiges Ziel ist. Tatsache ist leider, dass der Vorschlag einen atemberaubend breiten Anwendungsbereich hat und tatsächlich jeden in der EU, einschließlich Kinder, dazu bringen würde, weniger sicher.
In seiner jetzigen Fassung verpflichtet der Gesetzentwurf alle Hosting-Dienste und Anbieter von zwischenmenschlicher Kommunikation, alle Inhalte zu scannen und dann eine Entscheidung darüber zu treffen, was an die Strafverfolgungsbehörden zu übergeben ist. Dem Vorschlag zufolge müssen Anbieter von Anwendungen mit rechtlichen Konsequenzen rechnen, wenn sie nicht „Informationen melden, die auf einen potenziellen sexuellen Missbrauch von Kindern im Internet hindeuten“.
Die Anbieter müssten also nicht nur die gesamte Kommunikation scannen, sondern würden, um eine Haftung zu vermeiden, höchstwahrscheinlich auf Nummer sicher gehen und die Kommunikation von Personen massiv überbewerten.
Offensichtlich hätte ein solcher Ansatz schwerwiegende Auswirkungen auf die Meinungs- und Vereinigungsfreiheit in ganz Europa, wo Sie nie wieder in der Lage wären, elektronisch mit der Gewissheit zu kommunizieren, dass Ihre Informationen nicht von einem Social-Media-Unternehmen, einem Messaging-Anbieter oder einer Strafverfolgungsbehörde abgefangen werden.
Trotz der starken politischen Dynamik auf beiden Seiten des Atlantiks, die Macht der Social-Media-Giganten einzudämmen, würde dieser Vorschlag ihnen überstaatliche Befugnisse verleihen, um die Kommunikation und Informationen aller Nutzer zu kontrollieren und zu überwachen.
Die Prämisse dieses Vorschlags – dass Filtertechnologien und allgemeine Überwachungsverpflichtungen von zentraler Bedeutung für die Beseitigung von CSAM online sind – ist grundlegend fehlerhaft.
Als Ergebnis dieser Gesetzgebung würden riesige Datenmengen, einschließlich Text und Bilder aus privater Kommunikation, in einer Europol-Datenbank landen – einer Agentur, die bereits wegen ihrer früheren Misswirtschaft mit großen Datensätzen von der EU-Datenschutzbehörde unter Beschuss genommen wurde. Datenschutz- und Sicherheits-Apps, die Ende-zu-Ende-verschlüsselte Kommunikation verwenden, würden ebenfalls effektiv verboten oder ihre Verschlüsselung durch Hintertüren verhindert – und das nicht nur für Europäer, sondern für alle.
Das unschuldige Foto, das Sie von Ihrem Baby in der Badewanne machen und an seine Großeltern schicken, könnte in einer Datenbank der Strafverfolgungsbehörden landen oder, schlimmer noch, in die Hände von Kinderschändern gelangen, die dieses Bild manipulieren könnten.
Dieser Vorschlag zielt auch darauf ab, Technologie einzusetzen, um nie zuvor gesehene Beispiele von Material über sexuellen Missbrauch von Kindern zu identifizieren. Aber diese Technologie ist bei weitem nicht weit genug fortgeschritten, um zuverlässig oder genau zu sein. Stattdessen ist es fehleranfällig.
Bedenken Sie Folgendes: Als Tumblr sein System zur Erkennung von „Inhalten für Erwachsene“ einführte, markierte es fälschlicherweise Kunst, Interessenvertretung, Memes, Fotos von Hunden anderer Personen und Posts über Designpatente. Facebook verwendet auch Klassifikatoren, um sein Verbot von Nacktheit und sexueller Aktivität bei Erwachsenen durchzusetzen, und hat fälschlicherweise Nachrichten, Journalismus und Gesundheitsinformationen blockiert.
Dieses vorgeschlagene EU-Überwachungsregime, das ausnahmslos ähnlich schwerwiegende Fehler machen würde, wäre für die Beteiligten verheerend. Die Verwendung einer solchen Technologie birgt erhebliche Risiken, dass Inhalte gekennzeichnet werden, die sowohl zu breit als auch zu wenig umfassend sind, und es hat sich immer wieder gezeigt, dass sie sich unverhältnismäßig stark auf gefährdete und marginalisierte Bevölkerungsgruppen auswirken.
Das Gesetz würde auch die Ende-zu-Ende-Verschlüsselung brechen und die Möglichkeit einer sicheren Online-Kommunikation für jedermann beenden. Es würde Regierungsbehörden und Verwaltungsbehörden ermächtigen, Ermittlungsanordnungen zu erlassen, damit sie sich ohne Haftbefehl Zugang zu Kommunikation verschaffen können.
Stellen Sie sich vor, wie sich das im Ungarn von Viktor Orbán auswirken könnte, wo investigative Journalisten und Menschenrechtsverteidiger bereits gefährdet sind. Und selbst in anderen EU-Ländern würde es den Regierungen viel zu leicht gemacht, sich unter dem Vorwand der Bekämpfung von Kindesmissbrauch Zugang zu den Mitteilungen der Bürger zu verschaffen.
Dieser Schritt würde auch autoritären Regierungen auf der ganzen Welt Tür und Tor öffnen, da sie Kommunikationsdienstleister dazu zwingen könnten, die gleichen Arten von Technologien zu verwenden, die im Rahmen dieser Verordnung eingesetzt werden, um ihre politischen Gegner, Gewerkschaftsorganisatoren oder jeden, der es wagt, zu jagen und zu verfolgen zu widersprechen, was eindeutig die außenpolitischen Bemühungen der EU untergräbt, gegen rechtswidrige Überwachung vorzugehen und Menschenrechtsverteidiger weltweit zu unterstützen.
Sexueller Missbrauch gedeiht dort, wo es Machtmissbrauch, mangelnde Rechenschaftspflicht und Angst vor Widerspruch und Wahrheit gibt. Um Missbrauch zu verhindern und um Wahrheit und Gerechtigkeit für Opfer und Überlebende zu erreichen, brauchen wir Transparenz, Rechenschaftspflicht und starke unabhängige Institutionen, die die Macht neu ausbalancieren. Wir können es uns einfach nicht leisten, dass das Online-Element solcher Bemühungen an genau diesen Sicherheitsvorkehrungen fehlt.
Darüber hinaus sollte der Ansatz der EU für CSAM nicht auf die Online-Welt beschränkt sein: Tausenden von Opfern wurde aufgrund von Verjährungsfristen oder durch Institutionen wie die katholische Kirche, die sich der Haftung entziehen, die Gerechtigkeit verweigert. Zu wenig Investitionen in den Schutz und das Wohlergehen von Kindern sind eine ständige Herausforderung in der gesamten EU, und nicht alle Mitgliedsländer haben sogar nationale Kinderschutzgesetze verabschiedet.
Es gibt bessere, ganzheitlichere Methoden zum Schutz der Kinderrechte in der EU. Die Einrichtung eines Massenüberwachungssystems, das die Menschenrechte aller – einschließlich der Kinderrechte – gefährdet, ist nicht der richtige Ausgangspunkt.