*Dieser Artikel wurde mit Kommentaren von Meta, früher bekannt als Facebook, aktualisiert.
Frances Haugen, die Whistleblowerin hinter einem massiven Durchsickern von internen Dokumenten von Facebook, hat CEO Mark Zuckerberg zum Rücktritt aufgefordert.
„Ich denke, das Unternehmen wird sich nicht ändern, wenn er CEO wird – Facebook wird stärker sein mit jemandem, der bereit ist, sich auf Sicherheit zu konzentrieren“, sagte sie am Montag (1. November) beim Web Summit in Lissabon.
Haugen, eine ehemalige Produktmanagerin bei Facebook, sammelte Zehntausende von Dokumenten, bevor sie das Unternehmen im April verließ, nachdem sie eine moralische Krise dargestellt hatte, die durch die unethischen Entscheidungen des Unternehmens ausgelöst wurde.
Daraufhin veröffentlichte sie das Dokument an die Presse und beleuchtete umstrittene Entscheidungen des Unternehmens, die öffentliche Empörung auslösten.
„Es gab ein Verhaltensmuster und Dinge, bei denen sie ihre Gewinne konsequent über die allgemeine Sicherheit stellten. Und ich bin sehr dankbar, dass Sie mich ernst nehmen können“, sagte sie dem Publikum.
Haugen wies insbesondere auf das Empfehlungssystem von Facebook hin, das die polarisierendsten und spaltendsten Inhalte priorisiert.
Während dies in den Vereinigten Staaten zu Kämpfen am Esstisch führen könnte, wies sie auf die dramatischen Konsequenzen für das wirkliche Leben hin, die solch extremistische Inhalte in schwierigen Realitäten haben können, die „fast überall nicht über die grundlegenden Sicherheitssysteme von Facebook verfügen“.
Ein Meta-Sprecher sagte gegenüber EURACTIV, dass das Argument „dass wir absichtlich Inhalte verbreiten, die Leute auf Profit verärgern, einfach nicht wahr ist. Wir sind auf dem besten Weg, 2021 mehr als 5 Milliarden US-Dollar für Sicherheit auszugeben – mehr als jedes andere Technologieunternehmen – und haben 40.000 Mitarbeiter, die eine Aufgabe erledigen: die Sicherheit der Menschen in unseren Apps zu gewährleisten.“
Haugen zitierte den Fall Äthiopien, wo kürzlich ethnische Säuberungen stattgefunden haben. Das afrikanische Land zählt 100 Millionen Menschen, sechs verschiedene Sprachen und 95 Dialekte, eine Realität, die ihrer Meinung nach die Unzulänglichkeit des Content-Moderations-Systems von Facebook zeigt.
„Wenn die Grundlage Ihrer Sicherheit darauf basiert, die Dinge Sprache für Sprache zu kennen, passt sie nicht zu den fragilsten Häusern der Welt“, sagte sie.
Für Haugen präsentierte Facebook die Moderation von Inhalten als falsche Wahl zwischen Zensur und Redefreiheit. Sie merkte an, dass es nicht inhaltsbasierte Lösungen gebe und diese effektiver seien, aber die Plattform kleiner und langsamer machen müssten.
Auf die Frage, ob sie Angst habe, antwortete die Whistleblowerin, dass „in den nächsten 20 Jahren eine Million, vielleicht 10 Millionen Menschenleben auf dem Spiel stehen. Und im Vergleich dazu fühlt sich nichts wirklich wie eine echte Konsequenz an.“
Der ehemalige Facebook-Mitarbeiter kritisierte auch die jüngste Entscheidung des Unternehmens, sich wieder dem Metaverse oder der virtuellen Realität zuzuwenden.
„Bei Facebook gibt es ein Metaproblem, nämlich dass Facebook immer wieder die Expansion in neue Bereiche vorzieht, anstatt die Landung auf das zu setzen, was es bereits getan hat“, argumentierte Haugen.
„Ich finde es unvernünftig, dass beim Durchlesen der Dokumente ganz klar gesagt wird, dass Sie mehr Ressourcen für sehr grundlegende Sicherheitssysteme benötigen. Und anstatt zu investieren, um sicherzustellen, dass diese Plattformen das Mindestmaß an Sicherheit bieten, werden sie 10.000 Ingenieure in Videospiele investieren“, sagte sie.
Der Meta-Sprecher bezeichnete den Vergleich als lächerlich. „Es ist nicht so, dass ein Unternehmen nur neue Technologien entwickeln oder in die Sicherheit der Menschen investieren kann. Natürlich können und müssen wir beides gleichzeitig tun – und das tun wir.“
„Die letzten Wochen haben gezeigt, wie wichtig es ist, sich klar zu machen, wofür wir stehen – und das tun wir, indem wir unsere Vision und verantwortungsvolle Innovationsprinzipien für das Metaverse darlegen und gemeinsam mit anderen aufbauen. Es sind komplexe Kompromisse erforderlich, weshalb wir eine Regulierung der Branche brauchen“, fügte der Sprecher hinzu.
Haugen stellte fest, dass Facebook eine andere Organisationsstruktur habe als andere soziale Netzwerke wie Twitter.
Bei Facebook berichtet das Content-Moderations-Team vom Public-Affairs-Team an verschiedene Niederlassungen des Unternehmens.
Facebook hat Haugen zuvor vorgeworfen, nur eine Auswahl von Dokumenten veröffentlicht zu haben, was ihnen eine negative Note gegeben hat.
Huagen ihrerseits schlug vor, alle internen Dokumente von Facebook der Öffentlichkeit zugänglich zu machen und argumentierte, dass Unternehmen wie Google und Twitter viel transparenter seien.
Huagen forderte außerdem die politischen Entscheidungsträger auf, Facebook und andere Plattformen zur Offenlegung ihrer Daten zu verpflichten.
Transparenzpflichten und algorithmische Rechenschaftspflicht werden derzeit im Digital Services Act (DSA), einem EU-Gesetzgebungsvorschlag zu Online-Inhalten und -Diensten, diskutiert.
[Edited by Frédéric Simon]