Trollfarmen erreichten auf Facebook vor den Wahlen 2020 monatlich 140 Millionen Amerikaner

Joe Osborne, ein Facebook-Sprecher, sagte in einer Erklärung, dass das Unternehmen zum Zeitpunkt von Allens Bericht „diese Themen bereits untersucht hatte“ und fügte hinzu: „Seitdem haben wir Teams aufgestellt, neue Richtlinien entwickelt und mit der Industrie zusammengearbeitet Peers, um diese Netzwerke zu adressieren. Wir haben aggressive Durchsetzungsmaßnahmen gegen diese Art von ausländischen und inländischen unechten Gruppen ergriffen und die Ergebnisse vierteljährlich öffentlich geteilt.“

Bei der Überprüfung dieser Geschichte kurz vor der Veröffentlichung stellte der MIT Technology Review fest, dass fünf der im Bericht erwähnten Trollfarm-Seiten aktiv blieben.

Der Bericht stellte fest, dass Trollfarmen die gleichen demografischen Gruppen erreichten, die von der vom Kreml unterstützten Internet Research Agency (IRA) während der Wahlen 2016 ausgewählt wurden, die Christen, schwarze Amerikaner und amerikanische Ureinwohner ins Visier genommen hatte. Eine Untersuchung von BuzzFeed News aus dem Jahr 2018 ergab, dass mindestens ein Mitglied der russischen IRA, das wegen angeblicher Einmischung in die US-Wahlen 2016 angeklagt war, auch Mazedonien im Zusammenhang mit der Entstehung seiner ersten Trollfarmen besucht hatte, obwohl es keine konkreten Beweise für eine Verbindung fand . (Facebook sagte, seine Ermittlungen hätten auch keine Verbindung zwischen der IRA und mazedonischen Trollfarmen ergeben.)

“Das ist nicht normal. Das ist nicht gesund“, schrieb Allen. „Wir haben nicht authentische Akteure befähigt, für weitgehend unbekannte Zwecke eine riesige Fangemeinde anzuhäufen … Die Tatsache, dass Akteure mit möglichen Verbindungen zur IRA Zugang zu riesigen Zuschauerzahlen in denselben demografischen Gruppen haben, die von der IRA anvisiert werden, stellt ein enormes Risiko für die USA 2020 dar Wahl.”

Solange Trollfarmen diese Taktiken erfolgreich anwenden, könnte dies auch jeder andere schlechte Akteur tun, fuhr er fort: „Wenn die Trollfarmen 30 Millionen US-Benutzer mit Inhalten erreichen, die auf Afroamerikaner ausgerichtet sind, sollten wir uns nicht wundern, wenn wir das entdecken Auch die IRA hat dort derzeit ein großes Publikum.“

Allen schrieb den Bericht als vierte und letzte Folge seiner anderthalb Jahre dauernden Bemühungen, Trollfarmen zu verstehen. Er verließ das Unternehmen im selben Monat, zum Teil aus Frustration, dass die Führung seine Recherchen „effektiv ignoriert“ hatte, so der ehemalige Facebook-Mitarbeiter, der den Bericht geliefert hatte. Allen lehnte eine Stellungnahme ab.

Der Bericht enthüllt den alarmierenden Zustand, in dem die Facebook-Führung die Plattform jahrelang verlassen hat, trotz wiederholter öffentlicher Versprechungen, aggressiv gegen ausländische Wahleinmischung vorzugehen. MIT Technology Review stellt den vollständigen Bericht mit geschwärzten Mitarbeiternamen zur Verfügung, da er im öffentlichen Interesse liegt.

Seine Enthüllungen umfassen:

• Im Oktober 2019 wurden rund 15.000 Facebook-Seiten mit einem mehrheitlichen US-Publikum aus dem Kosovo und Mazedonien gesperrt, die bei den Wahlen 2016 als schlechte Akteure bekannt waren.
• Insgesamt erreichten diese Troll-Farm-Seiten – die der Bericht zu Vergleichszwecken als eine einzige Seite behandelt – monatlich 140 Millionen US-Nutzer und wöchentlich 360 Millionen Nutzer weltweit. Die Seite von Walmart erreichte mit 100 Millionen das zweitgrößte Publikum in den USA.
• Die Seiten der Trollfarm wurden auch zu folgenden Elementen zusammengefasst:
  • die größte christlich-amerikanische Seite auf Facebook, 20-mal größer als die nächstgrößte – sie erreicht monatlich 75 Millionen US-Nutzer, von denen 95 % noch nie einer der Seiten gefolgt waren.
  • die größte afroamerikanische Seite auf Facebook, dreimal größer als die nächstgrößte – sie erreicht monatlich 30 Millionen US-Nutzer, von denen 85 % noch nie einer der Seiten gefolgt sind.
  • die zweitgrößte Seite der amerikanischen Ureinwohner auf Facebook mit 400.000 Nutzern monatlich, von denen 90 % noch nie einer der Seiten gefolgt waren.
  • die fünftgrößte Frauenseite auf Facebook und erreicht monatlich 60 Millionen US-Nutzer, von denen 90 % noch nie einer der Seiten gefolgt sind.
• Trollfarmen betreffen hauptsächlich die USA, zielen aber auch auf Großbritannien, Australien, Indien sowie mittel- und südamerikanische Länder ab.
• Facebook hat mehrere Studien durchgeführt, die bestätigten, dass Inhalte, die mit größerer Wahrscheinlichkeit Benutzerinteraktionen (Likes, Kommentare und Shares) erhalten, eher von einer Art sind, die als schlecht bekannt ist. Dennoch hat das Unternehmen die Inhalte in den Newsfeeds der Benutzer weiterhin nach dem eingestuft, was das höchste Engagement erhält.
• Facebook verbietet Seiten das Posten von Inhalten, die lediglich von anderen Teilen der Plattform kopiert und eingefügt wurden, setzt die Richtlinie jedoch nicht gegen bekannte bösartige Akteure durch. Dies macht es ausländischen Schauspielern, die die Landessprache nicht sprechen, leicht, vollständig kopierte Inhalte zu veröffentlichen und dennoch ein riesiges Publikum zu erreichen. Bis zu 40 % der Seitenaufrufe auf US-Seiten gingen zeitweise an solche mit überwiegend unoriginalem Inhalt oder Material von begrenzter Originalität.
• Trollfarmen haben sich zuvor in die Instant Articles- und Ad Breaks-Partnerschaftsprogramme von Facebook eingeschrieben, die Nachrichtenorganisationen und anderen Verlagen dabei helfen sollen, ihre Artikel und Videos zu monetarisieren. An einem Punkt gingen dank fehlender grundlegender Qualitätskontrollen bis zu 60 % der gelesenen Instant Articles an Inhalten, die von anderer Seite plagiiert worden waren. Dies machte es Trollfarmen leicht, sich unbemerkt einzumischen und sogar Zahlungen von Facebook zu erhalten.

Wie Facebook Trollfarmen ermöglicht und ihr Publikum vergrößert

Der Bericht befasst sich speziell mit Trollfarmen im Kosovo und in Mazedonien, die von Leuten betrieben werden, die die amerikanische Politik nicht unbedingt verstehen. Aufgrund der Art und Weise, wie die Newsfeed-Belohnungssysteme von Facebook konzipiert sind, können sie jedoch immer noch einen erheblichen Einfluss auf den politischen Diskurs haben.