Letzten Monat, nach dem Wallstreet Journal veröffentlichte eine Reihe von Artikeln, die teilweise aus Zehntausenden von Seiten durchgesickerter interner Facebook-Dokumente stammen, die angeblich zeigen, wie das Unternehmen manchmal Profit über das öffentliche Wohl stellt, und nachdem der Handelsausschuss des Senats diese Dokumente verwendet hatte, um Facebooks Antigone Davis, Head of Global Safety, über das Wissen des Unternehmens um den Schaden, den es verursacht, blieb eine Frage: „Was passiert jetzt?“ Facebook, das sagte, dass die Tagebuch Serie ihre Forschung falsch charakterisiert und aus dem Kontext gerissen, die positiven Aspekte von Social Media ignoriert, hat in der Vergangenheit schlechte PR überstanden und der Kongress hat es bisher nicht geschafft, bedeutende Regulierungsgesetze zu erlassen, daher könnte die wahrscheinliche Antwort „nicht viel“ gewesen sein. ” Dann, am Sonntagabend, in „60 Minutes“, meldete sich Frances Haugen, eine 37-jährige ehemalige Facebook-Datenwissenschaftlerin, nicht nur, um zuzugeben, dass sie die Whistleblowerin war, die die Dokumente durchgesickert hatte, sondern um dies zu enthüllen sie bildeten die Grundlage für mindestens acht Beschwerden, die sie und ihre Anwälte bei der Securities and Exchange Commission eingereicht hatten. Außerdem habe sie die Dokumente mit Mitgliedern des europäischen und britischen Parlaments geteilt. In einem am späten Dienstagabend veröffentlichten Blogbeitrag sagte Mark Zuckerberg, der CEO von Facebook, dass Haugens Behauptungen „keinen Sinn ergeben“ und fügte hinzu, dass „im Zentrum dieser Anschuldigungen die Idee steht, dass wir Profit über Sicherheit und Wohlbefinden stellen“. . Das stimmt einfach nicht.“
Haugen arbeitete fast zwei Jahre bei Facebook, wo sie die leitende Produktmanagerin im Team für bürgerliche Integrität war, das das Unternehmen später in eine größere Abteilung eingliederte. Bevor sie beschloss, die Recherchen und Message Boards von Facebook nach Beweisen dafür zu durchforsten, dass das Unternehmen sich seiner toxischen Auswirkungen bewusst war, konsultierte sie ihre Mutter, eine bischöfliche Priesterin in Durant, Iowa. Haugen betrachtet sich selbst als Regel-Anhänger, sagte sie dem Tagebuch. Aber ihre Mutter sagte ihr, dass sie alles tun sollte, um diese Leben zu retten, wenn sie glaubte, dass Facebook Leben in Gefahr bringt. Also beschloss sie, Beweise zu sammeln und dann zu teilen, unter anderem für die negativen Auswirkungen, die Instagram, die Foto-Sharing-App, die Facebook im Jahr 2012 erworben hat, auf die emotionale und körperliche Gesundheit von Teenagern haben kann, und die Art und Weise, wie Facebook Algorithmen können Extremismus fördern und interne Konflikte begünstigen.
Dann, am Dienstag, saß Haugen, ein selbstbeherrschter Mittlerer Westen, stundenlang in einem Anhörungssaal des Senats und sagte vor dem Unterausschuss für Verbraucherschutz, Produktsicherheit und Datensicherheit aus. Dort wiederholte sie mit akribischer Offenheit, was sie während ihrer Zeit bei Facebook und aus den internen Dokumenten, die sie sich im vergangenen Frühjahr angeeignet hatte, vor ihrem Ausscheiden aus dem Unternehmen gelernt hatte. „Ich habe die verheerende Wahrheit erkannt. Fast niemand außerhalb von Facebook weiß, was innerhalb von Facebook passiert“, sagte sie den Senatoren. „Das Unternehmen verbirgt absichtlich wichtige Informationen vor der Öffentlichkeit, vor der US-Regierung und vor Regierungen auf der ganzen Welt.“ Sie fügte hinzu: „Facebook möchte, dass Sie glauben, dass die Probleme, über die wir sprechen, unlösbar sind. Sie wollen, dass Sie an falsche Entscheidungen glauben. Sie möchten, dass Sie glauben, dass Sie sich zwischen einem Facebook voller spaltender und extremer Inhalte oder dem Verlust eines der wichtigsten Werte, auf denen unser Land gegründet wurde, entscheiden müssen, der freien Meinungsäußerung. . . . Um lustige Fotos Ihrer Kinder mit alten Freunden teilen zu können, müssen Sie auch von wütender Viralität überflutet werden. Sie wollen, dass Sie glauben, dass dies nur ein Teil des Deals ist. Ich bin heute hier, um Ihnen zu sagen, dass das nicht stimmt.“
Ein Großteil dieser Viralität, sagte Haugen, wird durch die Verstärkungsalgorithmen von Facebook verursacht, die die „Wachstumsabteilung“ des Unternehmens ständig optimiert, um die auf der Plattform zirkulierenden Inhalte „klebriger“ zu machen. Je klebriger der Inhalt, desto mehr Zeit verbringen die Benutzer auf der Plattform und desto mehr Geld verdient Facebook. Die einfache Gleichung, die dem Vorgang zugrunde liegt, lautet: Mehr Zeit = mehr Anzeigen = mehr Umsatz. Zuckerberg schrieb in seinem Blog-Post am Dienstagabend: „Das Argument, dass wir absichtlich Inhalte verbreiten, die Menschen auf Profit verärgern, ist zutiefst unlogisch. Wir verdienen Geld mit Anzeigen und Werbetreibende sagen uns immer wieder, dass sie ihre Anzeigen nicht neben schädlichen oder wütenden Inhalten haben möchten.“ Das Unternehmen behauptet auch, dass es Änderungen vorgenommen hat, um „sinnvolle soziale Interaktionen“ zwischen seinen Benutzern gegenüber viralen Videoinhalten zu priorisieren. Aber, wie Haugen sagte, das Unternehmen weiß, dass extreme Inhalte das meiste Nutzer-Engagement erzeugen, daher ist die Plattform so konzipiert, dass sie sie fördert, indem sie den Beitrag (und sein Poster) mit Likes, Shares und Kommentaren belohnt. Diese wiederum senden kleine Dopamin-Hits auf das Originalplakat und fördern die Erstellung immer extremerer Posts – nennen Sie es einen Teufelskreis der Teufelsei. Facebook weiß dies aus eigenen Recherchen, bezeugte Haugen, und es gebe keinen Anreiz, dies zu ändern.
In ihrer SEC-Beschwerde hebt Haugen eine Facebook-Studie mit dem Titel „Carol’s Journey to QAnon“ hervor, die herausfand, dass ein hypothetischer Benutzer namens Carol (in der Studie) „konservative politische Nachrichten und Humorinhalte im Allgemeinen verfolgte. . . Seitenempfehlungen begannen nach nur 2 Tagen Verschwörungsempfehlungen zu enthalten.“ Es dauerte weniger als eine Woche, bis der Algorithmus QAnon-Inhalte bereitstellte. In einem langen internen Memo an Facebook-Mitarbeiter und vor Haugens Zeugenaussage schrieb Nick Clegg, der ehemalige britische Vizepremierminister, der jetzt Facebooks Vizepräsident für globale Angelegenheiten und Kommunikation ist, dass „wenn es wahr wäre, dass Facebook der Hauptursache der Polarisierung ist, dass sie überall dort zunimmt, wo Facebook beliebt ist. Es ist nicht. Tatsächlich ist die Polarisierung in einer Reihe von Ländern mit hoher Social-Media-Nutzung zurückgegangen, während sie in den USA gleichzeitig zugenommen hat.“ (Trotzdem, laut einem Artikel vom Mai 2020 in der Wallstreet Journal, lautet eine Folie aus einer Facebook-Präsentation aus dem Jahr 2018: „Unsere Algorithmen nutzen die Anziehungskraft des menschlichen Gehirns zur Spaltung aus.“ Wenn dieser Prozess nicht überprüft wird, heißt es auf der Folie, würde Facebook den Benutzern „immer mehr spaltende Inhalte liefern, um die Aufmerksamkeit der Benutzer zu gewinnen und die Zeit auf der Plattform zu verlängern“.
Die Anhörung am Dienstag mit dem Titel „Kinder im Internet schützen: Zeugenaussage eines Facebook-Whistleblowers“ wurde in erster Linie einberufen, um die Risiken zu diskutieren, die Facebook und insbesondere Instagram für junge Menschen darstellen. Senatorin Marsha Blackburn bemerkte in einer Erklärung im Senat, dass Facebooks eigene Forschungen zeigen, dass 66 Prozent der Teenager-Mädchen und 40 Prozent der Teenager-Jungen „negative soziale Vergleiche“ erleben – und ihr Aussehen mit Prominenten und anderen Influencern messen “ – wenn sie Instagram nutzen, was zu einer Kaskade von psychischen Problemen beitragen kann, einschließlich Essstörungen und Selbstmordgedanken. Die Forschung zeigt auch, dass es schwierig ist, die App nicht mehr zu nutzen, auch wenn Instagram Teenager unglücklich oder krank macht. Was andere “Sucht” nennen, sagte Haugen, Facebook nennt “problematischen Gebrauch”. Sie stellte auch fest, dass Jugendliche oft geheime Instagram-Accounts erstellen, die sie vor ihren Eltern verbergen und von denen das Unternehmen profitiert, weil sie die Werbeeinnahmen steigern. Senator Richard Blumenthal brachte diese gefälschten Instagram-Accounts, manchmal auch „Finstas“ genannt, sowohl bei der Anhörung am Dienstag als auch während eines Austauschs mit Antigone Davis letzte Woche zur Sprache. Er sagte: „Facebook beschreibt diese geheimen Konten in mehreren Dokumenten als ‚ein einzigartiges Wertversprechen’. Es ist eine Wachstumsstrategie, eine Möglichkeit, die monatliche Kennzahl der aktiven Benutzer zu steigern.“ Davis antwortete, dass „Finstas nicht etwas sind, das wir tatsächlich gebaut haben“. Über die Benutzer fügte sie hinzu: „Sie haben gebaut – sie haben es getan, um sich selbst ein privateres Erlebnis zu bieten.“ (Was Blumenthal anscheinend meinte, sind sogenannte SUMAs, was „gleicher Benutzer mit mehreren Konten“ bedeutet. Ein Facebook-Bericht, auf den in Haugens SEC-Beschwerde verwiesen wird, stellt fest, dass „über 15 % der neuen Teenagerkonten bestehende Benutzer sind, die ein SUMA-Kinderkonto erstellen“.
Haugen ist nicht der erste ehemalige Facebook-Mitarbeiter, der vor der Nutzung der Plattform warnt, um soziale Spaltungen zu schüren, Konflikte zu schüren und zu Gewalt aufzustacheln. Erst letztes Jahr schrieb eine andere ehemalige Facebook-Datenwissenschaftlerin, Sophie Zhang, ein Memo mit fast achttausend Wörtern, als sie das Unternehmen verließ, und behauptete, dass die Plattform Politikern, Staatsoberhäuptern und politischen Parteien ermöglicht, gefälschte Konten zu erstellen, die zur Belästigung verwendet werden ihre Opposition und Einfluss auf Wahlen. Yael Eisenstat, ein ehemaliger CIA-Offizier und nationaler Sicherheitsberater des damaligen Vizepräsidenten Joe Biden, hat in TED Talks und anderswo, dass sie Facebook nach nur wenigen Monaten im Jahr 2018 verlassen hat, als ihr klar wurde, dass die Facebook-Führung wenig Interesse daran hatte, den Job zu machen, für den sie eingestellt worden war: Fehlinformationen in politischen Anzeigen zu bekämpfen , als Leiter der globalen Wahlen-Integritätsoperationen. Als Antwort auf das Memo von Zhang sagte Facebook: „Wir stimmen grundsätzlich nicht mit Frau Zhangs Charakterisierung unserer Prioritäten und Bemühungen, Missbrauch auf unserer Plattform auszumerzen, überein. Als Teil unseres Vorgehens gegen diese Art von Missbrauch haben wir spezialisierte Teams, die sich auf diese Arbeit konzentrieren, und haben bereits mehr als 150 Netzwerke koordinierten unauthentischen Verhaltens zerstört.“ Das Unternehmen hat die Kritik von Eisenstat nie direkt kommentiert, aber als Richtlinie überprüft es politische Anzeigen nicht auf Fakten.
Haugens Auftauchen fällt mit anderen Ereignissen in einem negativen Nachrichtenzyklus zusammen, der Facebook dazu zu bringen scheint, Schritt zu halten. In der Senatsanhörung letzte Woche versuchte Davis, die eigene Forschung von Facebook zu ignorieren, und sagte: „Ich möchte klarstellen, dass diese Forschung keine Bombe ist. Es ist keine Ursachenforschung. Es ist in der Tat nur gerichtete Forschung, die wir für Produktteams verwenden.“ Sie wurde von Blumenthal unterbrochen, der darauf bestand, dass es sich tatsächlich um “eine Bombe” handelte. Am Montag, zwischen Haugens Auftritten bei “60 Minutes” und im Senat, hat Facebook seine Antwort auf eine Klage der Federal Trade Commission eingereicht, die versucht, das Kartellrecht zu nutzen, um den Technologieriesen zu zerschlagen. Obwohl Facebook im Juni die erste Runde gewann, als der Bezirksrichter James Boasberg entschied, dass die FTC nicht ausreichend nachgewiesen habe, dass das Unternehmen ein Monopol ist, ist die geänderte Beschwerde der Agentur substanzieller. Das kartellrechtliche Argument hat möglicherweise einen Schub bekommen, als das gesamte Facebook-Ökosystem einen weltweiten Ausfall hatte, der zeigte, wie fest es im Markt verankert ist. Am selben Tag wurde Ashkan Soltani, ein führender Experte für Datenschutzrecht und ehemaliger Cheftechnologe der FTC, zum Leiter der neuen kalifornischen Datenschutzbehörde ernannt, wo er für die Durchsetzung des kalifornischen Datenschutzrechtsgesetzes verantwortlich sein wird gilt als das stärkste Datenschutzgesetz des Landes. Am Dienstag, ungefähr eine Stunde nach Haugens Auftritt im Senat, nahm Andy Stone, Facebooks Direktor für politische Kommunikation, in einem offensichtlichen Versuch, ihre Aussage abzustumpfen, zu TwitterSie schrieb, dass sie über Forschung spreche, die sie nicht selbst durchgeführt habe und von der sie „keine direkte Kenntnis“ habe. In ihrer Aussage räumte Haugen ein, dass sie nicht direkt an der Instagram-Recherche arbeitete und sich auf die Analysen derer verließ, die dies taten.