Die übergreifende Erkenntnis aus den Facebook Papers ist, dass Facebook weiß. Das Unternehmen überwacht so ziemlich alles, wie die Whistleblowerin Frances Haugen enthüllte, indem sie 17 Nachrichtenorganisationen Dokumente über die internen Recherchen und Diskussionen des Social-Media-Unternehmens zur Verfügung stellte. Facebook und seine Kollegen aus der Tech-Branche beschäftigen Armeen von herausragenden Forschern, die bewerten, wie die Plattform das soziale Verhalten prägt. Diese Forscher stimmen einem faustischen Handel zu – im Austausch für unbegrenzte Daten unterzeichnen sie Geheimhaltungsvereinbarungen. Und wie die Facebook Papers dokumentieren, haben diese Mitarbeiter eine Reihe beunruhigender Probleme entdeckt, die ohne Haugen vielleicht nie öffentlich bekannt geworden wären. Selbst wenn Mitarbeiter von Facebook (das sich am Donnerstag offiziell in Meta umbenannt hat) privat gegen die Entscheidungen des Unternehmens protestiert haben, den Profit über die öffentliche Sicherheit zu stellen, wurden sie in vielen Fällen von Mark Zuckerberg und anderen Führungskräften außer Kraft gesetzt.
Wenn Facebook-Mitarbeiter weiterhin die einzigen sind, die Facebook überwachen können, können weder sie noch andere ausreichende Fortschritte darin machen, zu verstehen, wie giftige Inhalte auf Social-Media-Plattformen gedeihen, wie sie zu menschlichem Leid führen und wie dieses Leid am besten verringert werden kann. Facebook und andere Social-Media-Giganten haben eine enorme Macht über den globalen Informationsfluss angehäuft: Facebook allein zensiert täglich Millionen von Posts, mehr menschliche Kommunikation als jede Regierung jemals hat. Die Entscheidungen, die ihre Mitarbeiter und ihre Algorithmen darüber treffen, was verstärkt und was unterdrückt werden soll, wirken sich letztendlich auf das Wohlbefinden der Menschen aus. Dennoch sind die Unternehmen im Wesentlichen Black Boxes – Einheiten, deren Innenleben für die Außenstehenden praktisch unbekannt ist.
Insbesondere bei fehlender externer Aufsicht kann von privaten Unternehmen nicht erwartet werden, dass sie im öffentlichen Interesse arbeiten. Es ist weder ihr Zweck noch ihre Rolle. Deshalb muss es unabhängigen Forschern von Nachrichtenagenturen, Universitäten und zivilgesellschaftlichen Gruppen ermöglicht werden, im Namen der Öffentlichkeit Wissen zu sammeln und zu sammeln. Diesen Zugang zu erzwingen und ihn gesetzlich zu schützen, ist unerlässlich, um Internetplattformen zur Rechenschaft zu ziehen.
Ich arbeite mit anderen Forschern – darunter J. Nathan Matias von Cornell und Rebekah Tromble und David Karpf von der George Washington University – an Initiativen, die den Austausch von Schlüsselinformationen garantieren. (Matias, Tromble und Karpf haben alle zu diesem Artikel beigetragen.) Wir haben beobachtet, dass Technologieunternehmen ihre Bemühungen regelmäßig behindert haben, wenn unabhängige Forscher versuchten, Beweise im öffentlichen Interesse zu digitalen Schäden zu entwickeln. Seit Jahren blockiert Facebook die Transparenzforschung von ProPublica, Markup, New York University, AlgorithmWatch und anderen. Im Jahr 2018 hat sich Social Science One, ein Forschungskonsortium mit Sitz in Harvard, mit Facebook zusammengetan, um Daten von Zuckerbergs Unternehmen über die Auswirkungen von Social Media auf die Demokratie zu erhalten und diese Daten mit Akademikern zu teilen. (Journalisten und Zivilgesellschaftsforscher durften nicht teilnehmen.) Facebook brauchte viel länger als erwartet, um den ersten versprochenen Datensatz bereitzustellen, der für Forscher von begrenztem Nutzen war und kürzlich einen grundlegenden Fehler aufwies, der alle ihre Erkenntnisse.
Und Facebook ist bei weitem nicht allein, wenn es um den PR-Boost geht, der durch die angebliche Zusammenarbeit mit externen Forschern entsteht, während unabhängige Forschung überhaupt verhindert oder langsam vorangetrieben wird. Zum Beispiel, Jahre nachdem Twitter öffentlich versprochen hatte, mit externen Forschern zusammenzuarbeiten, die sich mit Online-Belästigung befassten, kam die Eigeninitiative des Unternehmens, die untersucht, wie gesunde Gespräche gefördert werden können, ins Stocken.
Die unabhängige Überprüfung des Unternehmensverhaltens ist in anderen Branchen Standard – insbesondere in solchen, die wie Internetunternehmen Technologien für den privaten Gebrauch zur Verfügung stellen, die das Leben erleichtern, aber auch zu schweren Verletzungen führen können. Crashtests an Neuwagen werden beispielsweise von der National Highway Traffic Safety Administration durchgeführt, die ihre Verfahren und Ergebnisse veröffentlicht. Durch unabhängige Tests unterstützte automatische Sicherheitsvorschriften haben jedes Jahr Tausende von Menschenleben gerettet. Die Regulierung würde nicht so effektiv funktionieren, wenn Autofirmen die einzigen wären, die ihre eigenen Autos testen könnten, und wenn sie die Testergebnisse geheim halten würden. Die besten Lösungen für die Sicherheit ergeben sich aus einer robusten, wettbewerbsorientierten Wissenssuche, bei der unterschiedliche Forscher die Arbeit der anderen kritisieren und versuchen, sie zu verbessern.
Sie müssen nicht denken, dass Technologieunternehmen oder ihre CEOs böse sind, um zu sehen, dass sie ihre eigenen Geschäfte nicht effektiv überwachen können. Selbst wenn ein Unternehmen wie Facebook Wege findet, seine Nutzer und das Gemeinwohl zu schützen – etwa indem es die Reichweite von Fehlinformationen verringert, die Menschen töten können – nutzt es diese möglicherweise nicht. Im August 2020 stellte beispielsweise ein Facebook-Mitarbeiter fest, dass das Empfehlungssystem der Plattform für Posts und Seiten „die Nutzer sehr schnell auf den Weg zu Verschwörungstheorien und -gruppen führen kann“. Der Mitarbeiter protestierte vergeblich, dass “aus Angst vor” Potenzial Antworten von öffentlichen und politischen Interessenträgern sind wir wissentlich Benutzer dem Risiko von Integritätsschäden auszusetzen.“
Matias, Tromble, Karpf und ich schlagen unter anderem ein neues Governance- und externes Aufsichtssystem für Technologieunternehmen vor. Sie müssten unabhängigen Forschern Zugang gewähren, die dann auf einer Internetplattform Daten über Schäden sammeln und analysieren, Personen dazu befragen und Methoden testen könnten, um diese Schäden zu reduzieren oder vollständig zu verhindern.
Facebook hat unabhängigen Untersuchungen widersprochen, indem es behauptete, dass es die Privatsphäre der Nutzer verletzen könnte. Tatsächlich sorgen sich die meisten Forscher viel mehr um den Datenschutz als die meisten Internetunternehmen.
Auf jeden Fall würde in dem von meinen Kollegen und mir vorgeschlagenen System eine neue unabhängige Einrichtung akademische Forscher im Voraus auf ihre Fähigkeit und ihr Engagement prüfen, ethisch zu arbeiten und die Privatsphäre zu schützen. Ihre Studiendesigns und Datenschutzpraktiken würden im Voraus von unabhängigen Ethikkommissionen überprüft, so wie es die US-Regierung und Universitäten bereits für andere Forschungen zu Menschen und Tieren verlangen, jedoch mit zusätzlichen Ethik- und Datenschutzstandards, um die Komplexität von Social-Media-Daten widerzuspiegeln. Diese Standards sollen sowohl die Daten als auch die von der Forschung betroffenen Personen schützen. Das von uns vorgeschlagene System würde auch den Zugang zu Journalisten und Forschern der Zivilgesellschaft erweitern, die derselben Überprüfung hinsichtlich ethischer und datenschutzrechtlicher Schutzmaßnahmen unterliegen würden.
In diesem System der Industrieaufsicht wären unabhängige Forscher verpflichtet, ihre Ergebnisse anderen Forschern und der Öffentlichkeit frei zugänglich zu machen.
Unternehmen ihrerseits wären verpflichtet, die Privatsphäre aller Personen, die in irgendeiner Weise von der vorgeschlagenen Studie betroffen sind, rigoros zu schützen. Sie dürfen nicht versuchen, die Ergebnisse der Forschung zu beeinflussen oder Ergebnisse aus anderen Gründen als dem legitimen Schutz der Privatsphäre zu unterdrücken. Wir würden verlangen, dass Unternehmen Zugriff auf Daten, Personen und relevanten Softwarecode in der Form gewähren, die Forscher benötigen.
Da die Tech-Firmen allzu deutlich gezeigt haben, dass sie die Aufsicht nicht alleine zulassen, muss sie reguliert werden. Meine drei Kollegen und ich sind auf die harte Tour gekommen, langsam, nachdem wir alle Alternativen ausprobiert haben. Unabhängige Forscher wie wir versuchen seit Jahren, mit Technologieunternehmen an Methoden zusammenzuarbeiten, um ihre Plattformen sicherer zu machen. Es hat nicht funktioniert. Nach großen Versprechungen haben sie sich geweigert, wichtige Informationen mit uns zu teilen. Wir haben versucht, die Praktiken und Plattformen der Unternehmen selbst zu überwachen. Sie haben unsere Konten geschlossen und unsere Recherchetools gesperrt.
Und obwohl der Fundus an Informationen in den Facebook Papers reichhaltig ist, sind Lecks von Natur aus ad hoc und zeitweilig. Sich auf sie zu verlassen, wird keine regelmäßige Aufsicht über Plattformen bieten, deren Innenleben komplex ist. Whistleblower sind unverzichtbar, können aber unabhängige, systematische Recherchen nicht ersetzen. Die Papiere dokumentieren nur die Recherchen, die Facebook selbst durchgeführt hat, sowie die Kritiken und Debatten, die unter den eigenen Mitarbeitern des Unternehmens stattfanden. Es ist klar, dass viele Forscher bei Facebook und anderen Technologieunternehmen danach streben, das Richtige zu tun. Aber solange ihre Erkenntnisse verborgen und ihre Empfehlungen ignoriert werden, können Unternehmen nicht dafür verantwortlich gemacht werden, wie sie die Arbeit ihrer Forscher nutzen.
Die Facebook Papers beweisen, dass Facebook und andere Unternehmen sich nicht selbst überwachen können. Eine wirksame Aufsicht erfordert eine rigorose, regelmäßige und unabhängige Kontrolle, und die Vereinigten Staaten müssen ein permanentes Fenster in die Blackboxes der Tech-Welt öffnen.