WASHINGTON – Ein ehemaliger Facebook-Produktmanager, der sich in einen Whistleblower verwandelte, gab dem Gesetzgeber am Dienstag einen ungeschminkten Einblick in das Innenleben des größten sozialen Netzwerks der Welt und erläuterte, wie das Unternehmen bewusst bemüht war, Menschen – einschließlich Kinder – an sich zu binden seinen Dienst.
In mehr als drei Stunden Zeugenaussage vor einem Unterausschuss des Senats sprach Frances Haugen, die bis Mai fast zwei Jahre lang im bürgerlichen Desinformationsteam von Facebook arbeitete, offen und mit einer Einsicht, die die Führungskräfte des Unternehmens selten gegeben haben. Sie sagte, Facebook habe absichtlich beunruhigende Forschungen darüber versteckt, wie Teenager sich nach der Verwendung seiner Produkte schlechter fühlten und wie es bereit war, hasserfüllte Inhalte auf seiner Website zu verwenden, um die Benutzer dazu zu bringen, zurückzukommen.
Frau Haugen gab dem Gesetzgeber auch Informationen darüber, nach welchen anderen Daten sie Facebook fragen sollten, was dann zu Vorschlägen zur Regulierung des Silicon Valley-Giganten führen könnte, da er zunehmend mit Fragen zu seiner globalen Reichweite und Macht konfrontiert ist.
„Ich bin heute hier, weil ich glaube, dass die Produkte von Facebook Kindern schaden, Spaltungen schüren und unsere Demokratie schwächen“, sagte Frau Haugen, 37, während ihrer Aussage. „Die Führung des Unternehmens weiß, wie man Facebook und Instagram sicherer machen kann, wird aber nicht die notwendigen Änderungen vornehmen.“
Nach Jahren der Anhörungen vor dem Kongress auf Facebook und anderen großen Technologieunternehmen zeichnete sich Frau Haugens Auftritt nicht nur durch den Einblick in den Innenbereich aus, sondern auch durch die Art und Weise, wie sie republikanische und demokratische Gesetzgeber vereinte, um das Problem des Schadens der Plattform für Teenager anzugehen. Einige Senatoren nannten ihre Aussage einen „Big Tobacco“-Moment für die Technologiebranche.
Der Gesetzgeber sagte, die Aussage von Frau Haugen und die Tausenden von Seiten von Dokumenten, die sie vom Unternehmen gesammelt und dann durchgesickert hatte, zeigten, dass die Top-Manager von Facebook die Öffentlichkeit in die Irre geführt hatten und nicht vertrauenswürdig waren.
„Diese Forschung ist die Definition einer Bombe“, sagte Senator Richard Blumenthal, Demokrat aus Connecticut, der die Anhörung leitete.
Frau Haugens Aussage vor dem Handelsunterausschuss des Senats für Verbraucherschutz beendete mehrere Wochen intensiver Prüfung von Facebook, nachdem sie Tausende von Seiten mit internen Dokumenten an das Wall Street Journal durchgesickert hatte. Die Berichterstattung der Zeitung im vergangenen Monat löste eine der schlimmsten PR-Krisen von Facebook seit einem Datenschutzskandal im Jahr 2018 mit dem Beratungsunternehmen Cambridge Analytica aus.
Am Sonntag wurde Frau Haugens Identität als Whistleblowerin öffentlich, als sie eine persönliche Website einrichtete und bei „60 Minutes“ auftrat.
Facebook hat die Kritik wiederholt zurückgedrängt und erklärt, seine Forschung sei aus dem Zusammenhang gerissen und missverstanden worden.
Am späten Dienstagabend sprach der Vorstandsvorsitzende Mark Zuckerberg erstmals die Leaks des Whistleblowers an. Er widerlegte Behauptungen, dass Facebook das Engagement priorisiert habe, um sein Endergebnis zu verbessern, einschließlich des Engagements von schädlichen Inhalten. Er sagte, dass die Berichterstattung über die Motive des Unternehmens irreführend gewesen sei und dass die Recherchen des Unternehmens aus dem Zusammenhang gerissen worden seien. Er sagte, es sei „zutiefst unlogisch“, dass Facebook schädliche Inhalte priorisieren würde, weil Werbetreibende keine Anzeigen auf einer Plattform kaufen möchten, die Hass und Fehlinformationen verstärkt.
„Die meisten von uns erkennen einfach nicht das falsche Bild des Unternehmens, das gezeichnet wird“, schrieb Zuckerberg in einer Mitteilung an die Mitarbeiter, die er später auf seinem Facebook-Konto veröffentlichte.
Der Gesetzgeber war sich während der Anhörung weitgehend einig, dass Facebook zur Rechenschaft gezogen werden muss. Sie brachten eine Vielzahl von Gesetzesvorschlägen ein, darunter Gesetzesentwürfe, die Unternehmen wie Facebook zwingen würden, mehr Transparenz bei der Verbreitung von Fehlinformationen und anderen schädlichen Inhalten zu schaffen.
“Die Tech-Götter wurden entmystifiziert”, sagte Senator Roger Wicker, ein Republikaner aus Mississippi. „Die Kinder Amerikas sind süchtig nach ihrem Produkt. Es gibt zynisches Wissen im Namen dieser großen Technologieunternehmen, dass dies wahr ist.“
Aber die Senatoren haben keinen klaren Weg aufgezeigt, um die vielen von Frau Haugen angesprochenen Probleme anzugehen. Im Kongress sind Dutzende von Gesetzen zum Datenschutz und Änderungen der Redegesetze ins Stocken geraten. Die Abgeordneten des Repräsentantenhauses haben in diesem Jahr eine Reihe von Gesetzentwürfen zur Stärkung der Kartellgesetze verabschiedet, aber das gesamte Repräsentantenhaus hat das Gesetz nicht aufgegriffen, und seine Aussichten im Senat erscheinen düster.
Frau Haugen schlug Gesetze vor, die Unternehmen wie Facebook zwingen würden, ihre Systeme für Forscher zu öffnen, um die Verbreitung von Hassreden und anderen schädlichen Inhalten zu untersuchen.
„Wir können uns nicht weniger als volle Transparenz leisten“, sagte Frau Haugen und fügte hinzu, dass sie nicht glaube, dass kartellrechtliche Maßnahmen zur Auflösung von Facebook die Kernprobleme des Geschäftsmodells angehen würden. “Facebook wird weiterhin Entscheidungen treffen, die dem Gemeinwohl zuwiderlaufen.”
Obwohl der Titel der Anhörung „Kinder online schützen“ lautete, spickten die Gesetzgeber Frau Haugen mit einer Vielzahl von Themen. Sie fragten, wie Facebook die gefährliche Rede verstärkt habe, die zu den Kapitol-Aufständen am 6. Januar führte, wie sich Fehlinformationen über das Coronavirus und Impfstoffe in seinen Diensten verbreiteten und wie falsche Informationen zu ethnischer Gewalt in Äthiopien und Myanmar beigetragen hätten.
Frau Haugen gab ausführliche Antworten und sagte immer wieder, Führungskräfte wüssten mehr über die Probleme, als sie zugeben wollten.
Sie bot auch technologisches Know-how über die Technologie hinter den Dienstleistungen des Unternehmens. Sie sprach über die Gefahren in der Art und Weise, wie Facebook Posts Priorität einräumt, basierend auf der Anzahl der Likes, Shares und Kommentare, die sie generieren – ein Engagement, das oft mit falschen, spaltenden und aufrührerischen Inhalten auftritt. Sie kontrastierte es mit iMessage, der SMS-Plattform von Apple, die Nachrichten in der Reihenfolge ihres Eingangs einordnet.
Neben der Förderung schädlicher, überaus ansprechender Inhalte in den Vereinigten Staaten, schürt das auf Engagement basierende Ranking-System von Facebook an Orten wie Äthiopien „buchstäblich ethnische Gewalt“, sagte sie.
Frau Haugen kritisierte auch den Fokus von Facebook auf Technologietools zur Erkennung von Impfstoffen und anderen Fehlinformationen. Facebook sei “übermäßig abhängig von Systemen der künstlichen Intelligenz, von denen sie selbst sagen, dass sie wahrscheinlich nie mehr als 10 bis 20 Prozent der Inhalte erhalten werden”, sagte sie.
Mehrere Senatoren verurteilten Herrn Zuckerberg, weil er Entscheidungen getroffen hatte, die Sicherheit und Privatsphäre mieden. Er stimmte zu, Beiträge zu bewerben, die das meiste Engagement generierten.
„Hier ist also meine Botschaft an Mark Zuckerberg: Ihre Zeit, in unsere Privatsphäre einzudringen, giftige Inhalte zu fördern und Kinder und Jugendliche auszubeuten, ist vorbei“, sagte Senator Edward J. Markey, Demokrat von Massachusetts.
Herr Blumenthal sagte nach der Anhörung: „Facebook ist eine Blackbox, und Mark Zuckerberg ist der Chefdesigner der Algorithmen.“
Frau Haugen studierte Elektro- und Computertechnik am Olin College und erwarb einen Master of Business Administration in Harvard. Anschließend arbeitete sie bei Unternehmen im Silicon Valley wie Google, Pinterest und Yelp. Sie verließ Facebook, nachdem sie fast zwei Jahre lang im bürgerlichen Fehlinformationsteam gearbeitet hatte, das sich mit Fragen im Zusammenhang mit Demokratie und Fehlinformationen befasste und später den Bemühungen ausländischer Regierungen entgegenwirkte, die Plattform zu missbrauchen.
Bei Facebook, sagte Frau Haugen, bemerkte sie ein Muster der Entscheidung des Unternehmens, Warnungen vor Schäden durch seinen Dienst zu ignorieren. Der letzte Strohhalm kam im Dezember, als das Unternehmen ihre Gruppe auflöste, die beschuldigt wurde, die Verbreitung von Fehlinformationen zu stoppen.
„Es fühlte sich wirklich wie ein Verrat an“, sagte Frau Haugen.
Zusätzlich zur Weitergabe der Dokumente an den Gesetzgeber und The Journal schickte sie einige an die Büros von mindestens fünf Generalstaatsanwälten und der Securities and Exchange Commission. Anwälte von Whistleblower Aid, einer gemeinnützigen Rechtsgruppe, die Frau Haugen vertritt, haben die SEC aufgefordert, eine Untersuchung einzuleiten, dass Facebook Beweise zurückgehalten hat, die seine finanzielle Leistung beeinträchtigen würden.
Herr Blumenthal sagte nach der Anhörung, dass er die Federal Trade Commission und die SEC auffordern werde, Ermittlungen gegen Facebook wegen „einer Reihe irreführender Behauptungen“ einzuleiten, die gegenüber Verbrauchern, der Öffentlichkeit und Investoren erhoben wurden. Er fügte hinzu, dass Herr Zuckerberg vor dem Kongress erscheinen sollte.
„Wenn er mit dem hier Gesagten in irgendeiner Weise nicht einverstanden ist, ist er derjenige, der sich melden sollte, er ist derjenige, der das Sagen hat“, sagte Blumenthal.
Die Berichterstattung wurde beigetragen von Mike Isaac, Sheera Frenkel, Ryan Mac und Kevin Roose.