Wenn uns die Enthüllungen aus den sogenannten Facebook-Papern etwas gezeigt haben, dann sind es neue Regeln für die Überwachung von Online-Posts. Und schnell.
Die schlechte Nachricht: Das wird nicht passieren – zumindest nicht in einer Weise, die einen wirklichen Unterschied macht.
Noch vor dem Einblick in Facebooks Umgang mit Online-Inhalten, über den zuerst das Wall Street Journal und dann mehrere Medien, darunter POLITICO, berichteten, erarbeiteten politische Entscheidungsträger in der Europäischen Union, den USA und anderswo Vorschläge, um globale Plattformen zu mehr verantwortlich für das, was Menschen online gepostet haben, einschließlich potenziell hoher Geldstrafen, wenn etwas unweigerlich schief geht.
Aber während der Gesetzgeber um den Digital Services Act der EU, das Online Safety Bill des Vereinigten Königreichs und die stolpernden Bemühungen der USA, ihr eigenes Gesetz, bekannt als Abschnitt 230 des US Communications Decency Act, zu überarbeiten, wird keines dieser Gesetze die zugrunde liegenden Probleme angehen Probleme, die durch die Enthüllungen über die Überwachung von Online-Inhalten durch Facebook offengelegt wurden.
Was die internen Recherchen, E-Mails und Erkenntnisse zeigen, ist ein komplexes Netz miteinander verbundener Hebel, die – zusammengenommen – wohl eines der profitabelsten Unternehmen geschaffen haben, die die Welt je gesehen hat, und einen Online-Giganten aufgebaut haben, der die Lebensweise fast aller von uns prägt .
Als ich durch diese internen Dokumente wühlte, fiel mir auf, wie umfassend Facebook ist. Ingenieure optimierten routinemäßig Inhaltsalgorithmen, um einige Inhalte gegenüber anderen zu priorisieren. In Kalifornien ansässige Führungskräfte trafen regelmäßig fast in Echtzeit Entscheidungen, die Menschen an weit entfernten Orten betrafen. Was der Technologieriese über die täglichen digitalen Gewohnheiten der Menschen weiß – basierend auf der minutengenauen Überwachung der Online-Interaktionen aller – würde George Orwells „1984“ wie eine Gute-Nacht-Geschichte für Kinder aussehen lassen.
Die Dokumente zeigen, dass der Gesetzgeber immer noch nicht groß genug denkt.
Bisher konzentrieren sich die Legislativvorschläge zu eng darauf, kleine Bissen an einem viel größeren Problem zu nehmen. Sie würden Social-Media-Unternehmen zwingen, ihre Daten für externe Forscher zu öffnen; Begrenzung, wie einige politische Anzeigen potenzielle Unterstützer online ansprechen können; und verlangen, dass Unternehmen ihre Pläne zur Bewältigung existenzieller Risiken öffentlich machen, beispielsweise wenn gewählte politische Führer Fehlinformationen und Hassreden auf ihren Plattformen verbreiten.
Aber es reicht nicht aus, Teile dessen, was Social-Media-Unternehmen tun, gesetzlich zu erlassen. Solange der Gesetzgeber nicht einen Schritt zurücktritt und umfassender über die Regeln zur Überwachung von Online-Inhalten nachdenkt – und deren Verbindungen zu anderen digitalen Prioritäten wie Datenschutz und Wettbewerb – ist es unwahrscheinlich, dass die in den internen Dokumenten beschriebenen Missbräuche verschwinden.
Facebook seinerseits hat seine Aufsicht über Online-Inhalte verteidigt und erklärt, es habe Milliarden von Euro ausgegeben, Zehntausende von Inhaltsmoderatoren eingestellt und seine Algorithmen geändert, um Hassreden, Fehlinformationen und spaltendes politisches Material zu manipulieren und seine 2,4 Milliarden Nutzer weltweit zu schützen .
Welche Inhalte für die Polizei?
Wo sind die Dinge schief gelaufen? Beginnen wir mit den wohl weitreichendsten Regeln für Online-Inhalte – dem EU-Gesetz über digitale Dienste.
Diese Vorschläge kreuzen viele Kästchen an.
Laut Plänen, die voraussichtlich im nächsten Jahr in Kraft treten werden, müssen Facebook und andere regelmäßig Risikobewertungen zu potenziellen problematischen Hotspots auf ihren Plattformen durchführen und unabhängige Prüfer einstellen, um sicherzustellen, dass sie nicht betrügen. Einige externe Gruppen werden (begrenzten) Zugriff auf interne Social-Media-Daten haben, um zu analysieren, was vor sich geht, während die Aufsichtsbehörden des Blocks in der Lage sein werden, Unternehmen mit Geldbußen von bis zu 6 Prozent ihres Jahresumsatzes in Höhe von Milliarden Euro zu belegen, wenn sie dies nicht tun die Regeln einhalten. So weit, ist es gut.
Aber was diese Gesetzgebung betrifft, ist, dass sie sich eng auf illegale Inhalte konzentriert. Anderes Material, einschließlich verdächtiger Social-Media-Posts, die an die Grenze der Illegalität heranreichen, diese jedoch nie überschreiten, bleiben außerhalb des Geltungsbereichs.
Interne Facebook-Dokumente zeigen, dass solche „schädlichen, nicht verletzenden Narrative“ in Anlehnung an die eigene Sprache immer wieder eine bedeutende Rolle dabei gespielt haben, Spaltung und in einigen Fällen Offline-Gewalt zu schüren.
In den Tagen um die Unruhen auf dem Capitol Hill am 6. Januar beispielsweise gingen die Ingenieure des Technologiegiganten nicht gegen Posten vor, die die Legitimität der US-Präsidentschaftswahlen im letzten Jahr in Frage stellten, selbst als solches Material verwendet wurde, um politische Angriffe in Washington zu fördern. Ein weiteres Beispiel: Inhalte, die an Anti-Impfstoff-Fehlinformationen grenzten und jetzt auf der Plattform verboten sind, wurden ebenfalls nicht überprüft, obwohl diese Inhalte Online-Verschwörungstheorien rund um COVID-19 schürten.
Die europäischen Gesetzgeber sagten, sie müssten irgendwo eine Grenze ziehen, und die Ausweitung des Geltungsbereichs der vorgeschlagenen Inhaltsregeln des Blocks auf schädliche, aber nicht illegale Materialien hätte sich als unhandlich erwiesen. Aber diese Lücke in der Gesetzgebung – eine, die es ermöglichen wird, dass Unmengen problematischer Inhalte online und für Aufsichtsbehörden gesperrt bleiben – ist ein großer blinder Fleck in Europas Bemühungen, die sozialen Medien zu überwachen
Politische Anzeigen, Politiker und Medien
In London will der Gesetzgeber des Landes dieses Problem lösen, indem er schädliche Online-Inhalte reguliert, auch wenn sie legal sind.
Gemäß dem britischen Gesetz zur Online-Sicherheit, über das voraussichtlich vor Ende des Jahres abgestimmt werden soll, werden Social-Media-Unternehmen eine sogenannte Sorgfaltspflicht haben, um Benutzer vor solchen problematischen Inhalten zu schützen – auch wenn dies nicht die bestehenden Bestimmungen des Landes verletzt Gesetze gegen Hassrede. Bei Nichteinhaltung könnten Geldstrafen in Höhe von insgesamt 10 Prozent des Jahresumsatzes verhängt werden, während Führungskräfte von Social-Media-Unternehmen sogar ins Gefängnis kommen könnten, wenn das am schlimmsten beleidigende Material ignoriert wird.
Aber auch Londons Pläne sind fehlerhaft.
Die Verhandlungen laufen noch. Die Vorschläge stellen jedoch derzeit politische Online-Anzeigen sowie Beiträge von Politikern und Verlagen von jeglicher Form der Inhaltsmoderation aus.
Die internen Dokumente von Facebook zeigten, dass bezahlte Partisanennachrichten eine wichtige Rolle bei der Förderung spaltender, nicht bezahlter Inhalte auf der Plattform spielten. Auch gewählte Beamte und Medienorganisationen (von denen einige von politischen Gruppen gegründet wurden, um ihre eigene Agenda voranzutreiben) trugen dazu bei, Misstrauen zu schüren – und das Problem ging weit über den ehemaligen US-Präsidenten Donald Trump hinaus.
Frances Haugen, die Facebook-Whistleblowerin, sagte, diese Beschränkungen könnten die bevorstehenden Inhaltsregeln des Vereinigten Königreichs untergraben, indem sie sich nicht mit dem auseinandersetzen, was wirklich auf Facebook vor sich geht.
„Ich bin äußerst besorgt darüber, dass bezahlte Werbung ausgeschlossen wird, weil sich ein bindungsbasiertes Ranking auf Anzeigen genauso auswirkt wie auf organische Inhalte“, sagte sie dem britischen Gesetzgeber am 25. Oktober. „Es ist wesentlich billiger, eine wütende, hasserfüllte, spaltende Anzeige zu schalten als eine mitfühlende, empathische Anzeige zu schalten.”
Et tu, Washington?
Auf der anderen Seite des Atlantiks bewegt sich die Gesetzgebung zur Moderation von Inhalten weiterhin in einem eisigen Tempo, während Haugen sich mit US-Gesetzgebern trifft, die auch die internen Dokumente von Facebook auf der Suche nach Antworten durchforsten.
Neue Regeln sind in absehbarer Zeit nicht zu erwarten. Aber selbst die vorgeschlagenen Gesetzentwürfe – von denen die meisten Social-Media-Unternehmen stärker für Online-Veröffentlichungen haftbar machen und mehr Transparenz darüber erzwingen würden, wie Entscheidungen im Silicon Valley getroffen werden – gehen nicht an, wie die Algorithmen dieser Unternehmen oft schädliche, virale Inhalte über seriösere verbreiten Material. Andere Gesetzesentwürfe, die sich speziell mit der Überwachung solcher Algorithmen befassen, haben, wenn überhaupt, nur geringe Chancen, Gesetze zu erlassen.
Es wird erwartet, dass in Washington auf absehbare Zeit keine Pläne zur Regulierung oder gar Überwachung solcher Systeme verabschiedet werden.
Interne Facebook-Dokumente aus den Jahren 2018 bzw. 2019 zeigten, wie die automatisierten Systeme von Facebook negative Inhalte priorisierten, da sie mit höherer Wahrscheinlichkeit viral wurden – und so die Leute im sozialen Netzwerk hielten. Kein wahrscheinliches Gesetz in den USA würde sich mit diesem zugrunde liegenden Problem befassen.
Solange westliche Politiker nicht anfangen, größer zu denken, werden diese grundlegenden Mängel bei bestehenden Vorschlägen für Online-Inhalte nicht behoben – und lassen die Menschen immer noch weitgehend ungeschützt vor den Gefahren, die die Facebook-Papiere schmerzlich deutlich gemacht haben.
Mark Scott ist Chefkorrespondent für Technologie bei POLITIK.
Dieser Artikel ist Teil von POLITIK‘s Premium-Tech-Police-Abdeckung: Pro Technology. Unser fachkundiger Journalismus und unsere Suite von Policy-Intelligence-Tools ermöglichen es Ihnen, die Entwicklungen und Interessenvertreter, die die EU-Technologiepolitik prägen und Entscheidungen mit Auswirkungen auf Ihre Branche treffen, nahtlos zu suchen, zu verfolgen und zu verstehen. Email [email protected] mit dem Code ‘TECH’ für eine kostenlose Testversion.