Im Mai erhielten mehrere französische und deutsche Social-Media-Influencer einen seltsamen Vorschlag.
Eine in London ansässige PR-Agentur wollte sie dafür bezahlen, Nachrichten im Namen eines Kunden zu bewerben. Ein ausgefeiltes dreiseitiges Dokument detailliert, was zu sagen ist und auf welchen Plattformen es zu sagen ist.
Aber es forderte die Influencer auf, nicht wie üblich Schönheitsprodukte oder Urlaubspakete zu forcieren, sondern Unwahrheiten, die den Covid-19-Impfstoff von Pfizer-BioNTech verhindern. Noch seltsamer ist, dass die Agentur Fazze eine Londoner Adresse behauptete, für die es keine Beweise für die Existenz einer solchen Firma gibt.
Einige Empfänger haben Screenshots des Angebots gepostet. Aufgedeckt, hat Fazze seine Social-Media-Konten geschrubbt. In derselben Woche veröffentlichten brasilianische und indische Influencer Videos, die das Drehbuch von Fazze vor Hunderttausenden von Zuschauern widerspiegelten.
Das System scheint Teil einer geheimen Industrie zu sein, von der Sicherheitsanalysten und amerikanische Beamte sagen, dass sie explodiert: Desinformation für Miete.
Private Firmen, die sich zwischen traditionellem Marketing und der Schattenwelt geopolitischer Einflussnahmen niederlassen, verkaufen Dienstleistungen, die einst hauptsächlich von Geheimdiensten betrieben wurden.
Sie säen Zwietracht, mischen sich in Wahlen ein, säen falsche Erzählungen und treiben virale Verschwörungen vor allem in den sozialen Medien voran. Und sie bieten ihren Kunden etwas Kostbares: Verleugnung.
„Disinfo-for-hire-Akteure, die von der Regierung oder regierungsnahen Akteuren angestellt werden, nehmen zu und werden ernst“, sagte Graham Brookie, Direktor des Digital Forensic Research Lab des Atlantic Council, und nannte es „eine Boombranche“.
Ähnliche Kampagnen wurden kürzlich gefunden, um Indiens Regierungspartei, die Ziele der ägyptischen Außenpolitik und politische Persönlichkeiten in Bolivien und Venezuela zu fördern.
Mr. Brookies Organisation verfolgte eine Operation während eines Bürgermeisterrennens in Serra, einer kleinen Stadt in Brasilien. Eine ideologisch promiskuitive ukrainische Firma förderte mehrere konkurrierende politische Parteien.
In der Zentralafrikanischen Republik überfluteten zwei separate Operationen die sozialen Medien mit duellierenden pro-französischen und pro-russischen Desinformationen. Beide Mächte wetteifern um Einfluss im Land.
Eine scheinbar organische Welle antiamerikanischer Posts im Irak wurde zu einer PR-Firma verfolgt, die separat beschuldigt wurde, die regierungsfeindliche Stimmung in Israel vorgetäuscht zu haben.
Die meisten gehen auf Firmen zurück, deren legitime Dienste denen eines Vermarkters oder E-Mail-Spammers mit den niedrigsten Preisen ähneln.
In Stellenausschreibungen und LinkedIn-Mitarbeiterprofilen im Zusammenhang mit Fazze wird Fazze als Tochtergesellschaft eines Moskauer Unternehmens namens Adnow beschrieben. Einige Fazze-Webdomains sind als Eigentum von Adnow registriert, wie erstmals von den deutschen Medien Netzpolitik und ARD Kontraste berichtet wurde. Bewertungen von Drittanbietern zeigen Adnow als einen angeschlagenen Werbedienstleister.
Europäische Beamte sagen, sie untersuchen, wer Adnow angeheuert hat. Teile von Fazzes Anti-Pfizer-Gesprächspunkten ähneln Werbematerialien für Russlands Sputnik-V-Impfstoff.
Desinformation über die Einstellung von Mitarbeitern wird, wenn auch nur manchmal effektiv, immer ausgeklügelter, je mehr Praktiker iterieren und lernen. Experten sagen, dass es in allen Teilen der Welt immer häufiger vorkommt und Operationen übertrifft, die direkt von Regierungen durchgeführt werden.
Das Ergebnis ist ein beschleunigter Anstieg polarisierender Verschwörungen, falscher Bürgergruppen und erfundener öffentlicher Stimmungen, die unsere gemeinsame Realität sogar über die Tiefen der letzten Jahre hinaus verschlechtern.
Der Trend entstand nach dem Cambridge-Analytica-Skandal im Jahr 2018, sagen Experten. Es wurde festgestellt, dass Cambridge, eine politische Beratungsfirma, die mit Mitgliedern der Präsidentschaftskampagne von Donald J. Trump 2016 in Verbindung steht, Daten von Millionen von Facebook-Nutzern gesammelt hat.
Die Kontroverse lenkte die Aufmerksamkeit auf Methoden, die bei Social-Media-Vermarktern üblich sind. Cambridge nutzte seine Daten, um hyperspezifische Zielgruppen mit maßgeschneiderten Botschaften anzusprechen. Es wurde getestet, was durch das Tracking von Likes und Shares Anklang fand.
Die Episode lehrte eine Generation von Beratern und Opportunisten, dass im Social-Media-Marketing viel Geld für politische Zwecke steckte, alles getarnt als organische Aktivität.
Einige Neuankömmlinge kamen schließlich zum gleichen Schluss wie russische Agenten im Jahr 2016: Desinformation schneidet auf sozialen Plattformen besonders gut ab.
Gleichzeitig schien die Gegenreaktion auf Russlands Einflussnahme die Regierungen davor zurückschrecken zu lassen, gefasst zu werden – und demonstrierte gleichzeitig die Macht solcher Operationen.
„Es gibt leider eine enorme Marktnachfrage nach Desinformation“, sagte Brookie, „und viele Orte im gesamten Ökosystem, die mehr als bereit sind, diese Nachfrage zu decken.“
Kommerzielle Firmen führten im vergangenen Jahr in mindestens 48 Ländern Desinformation zur Miete durch – fast doppelt so viel wie im Vorjahr, laut einer Studie der Universität Oxford. Die Forscher identifizierten 65 Unternehmen, die solche Dienstleistungen anbieten.
Im vergangenen Sommer hat Facebook ein Netzwerk bolivianischer Bürgergruppen und eine journalistische Organisation zur Überprüfung von Fakten entfernt. Es hieß, die Seiten, die Unwahrheiten unterstützt hatten, die die rechte Regierung des Landes unterstützten, seien gefälscht.
Forscher der Stanford University führten den Inhalt zu CLS Strategies zurück, einem in Washington, DC ansässigen Kommunikationsunternehmen, das sich als Berater bei der bolivianischen Regierung registriert hatte. Die Firma hatte ähnliche Arbeiten in Venezuela und Mexiko durchgeführt.
Ein Sprecher verwies auf die Erklärung des Unternehmens im vergangenen Jahr, dass sein Regionalchef beurlaubt worden sei, bestritt jedoch die Anschuldigung von Facebook, die Arbeit sei als ausländische Einmischung qualifiziert.
Erodierende Realität
.
Neue Technologien ermöglichen es fast jedem, sich einzubringen. Programme generieren gefälschte Konten mit schwer zu verfolgenden Profilfotos. Sofortige Metriken helfen, effektives Messaging zu verbessern. Ebenso der Zugriff auf die persönlichen Daten der Benutzer, die problemlos in großen Mengen erworben werden können.
Selten sind die Kampagnen so ausgefeilt wie die von Regierungshackern oder spezialisierten Firmen wie der vom Kreml unterstützten Internet Research Agency.
Aber sie scheinen billig zu sein. In Ländern, die Transparenz bei der Kampagnenfinanzierung vorschreiben, berichten Unternehmen, dass sie für Kampagnen, die auch traditionelle Beratungsdienste umfassen, Zehntausende von Dollar in Rechnung stellen.
Die Verleugnungsschicht ermöglicht es den Regierungen, im In- und Ausland aggressiver Desinformation zu verbreiten, als es sonst das Risiko wert wäre. Einige Auftragnehmer haben, wenn sie erwischt wurden, behauptet, sie hätten ohne Wissen ihrer Kunden gehandelt oder nur, um zukünftige Geschäfte zu gewinnen.
Plattformen haben ihre Bemühungen verstärkt, koordinierte Desinformation auszumerzen. Analysten schreiben vor allem Facebook zu, das detaillierte Berichte über Kampagnen veröffentlicht, die es stört.
Einige argumentieren jedoch, dass auch Social-Media-Unternehmen eine Rolle bei der Verschlimmerung der Bedrohung spielen. Engagement-steigernde Algorithmen und Designelemente, Forschungsergebnisse, privilegieren oft spaltende und konspirative Inhalte.
Auch die politischen Normen haben sich verschoben. Eine Generation populistischer Führer wie Rodrigo Duterte von den Philippinen ist teilweise durch Manipulationen in den sozialen Medien aufgestiegen. Sobald sie im Amt sind, institutionalisieren viele diese Methoden als Instrumente der Regierungsführung und der Außenbeziehungen.
In Indien haben Dutzende von Regierungs-Twitter-Konten Beiträge von India Vs Disinformation geteilt, einer Website und einer Reihe von Social-Media-Feeds, die vorgeben, Nachrichten über Indien zu überprüfen.
India Vs Desinformation ist in Wirklichkeit das Produkt einer kanadischen Kommunikationsfirma namens Press Monitor.
Fast alle Beiträge versuchen, Berichte zu diskreditieren oder zu verfälschen, die für die Regierung von Premierminister Narendra Modi ungünstig sind, einschließlich der schweren Covid-19-Maut des Landes. Eine zugehörige Site fördert Pro-Modi-Erzählungen unter dem Deckmantel von Nachrichtenartikeln.
Ein Bericht des Digital Forensic Research Lab, der das Netzwerk untersucht, bezeichnete es als „eine wichtige Fallstudie“ zum Aufkommen von „Desinformationskampagnen in Demokratien“.
Ein Vertreter von Press Monitor, der sich nur als Abhay identifizierte, bezeichnete den Bericht als völlig falsch.
Er gab lediglich an, dass seine Firma fälschlicherweise als in Kanada ansässig identifiziert wurde. Auf die Frage, warum das Unternehmen eine Toronto-Adresse, eine kanadische Steuerregistrierung und als „Teil von Torontos florierendem Technologie-Ökosystem“ auflistet oder warum er unter einer Toronto-Telefonnummer erreicht wurde, sagte er, dass er in vielen Ländern geschäftlich tätig sei. Auf eine E-Mail mit der Bitte um Klärung antwortete er nicht.
Ein LinkedIn-Profil für Abhay Aggarwal identifiziert ihn als den in Toronto ansässigen CEO von Press Monitor und sagt, dass die Dienste des Unternehmens von der indischen Regierung genutzt werden.
‘Spamouflage’
Eine Reihe von Pro-Peking-Operationen weisen auf die Fähigkeit des Feldes für eine schnelle Entwicklung hin.
Seit 2019 verfolgt Graphika, ein digitales Forschungsunternehmen, ein Netzwerk, das den Spitznamen „Spamouflage“ trägt, weil es sich frühzeitig auf Spam auf sozialen Plattformen mit Inhalten verlassen hat, die Pekings Linie zu geopolitischen Themen widerspiegeln. Die meisten Beiträge erhielten wenig oder kein Engagement.
In den letzten Monaten hat das Netzwerk jedoch Hunderte von Accounts mit ausgeklügelten Personas entwickelt. Jeder hat sein eigenes Profil und seinen eigenen Beitragsverlauf, der authentisch erscheinen kann. Sie schienen aus vielen verschiedenen Ländern und Gesellschaftsschichten zu kommen.
Graphika hat die Konten bis zu einer Content-Farm in Bangladesch zurückverfolgt, die sie in großen Mengen erstellt und wahrscheinlich an einen Dritten verkauft hat.
Das Netzwerk übt scharfe Kritik an Hongkonger Demokratieaktivisten und der amerikanischen Außenpolitik. Indem es sich koordinierte, ohne den Anschein zu erwecken, erweckte es den Anschein organischer Verschiebungen in der öffentlichen Meinung – und erregte oft Aufmerksamkeit.
Die Berichte wurden von einem großen Mediennetzwerk in Panama, prominenten Politikern in Pakistan und Chile, chinesischsprachigen YouTube-Seiten, dem linken britischen Kommentator George Galloway und einer Reihe chinesischer Diplomatenberichte erweitert.
Ein separates pro-Peking-Netzwerk, das von einem taiwanesischen Ermittlungsunternehmen namens The Reporter aufgedeckt wurde, betrieb Hunderte von chinesischsprachigen Websites und Social-Media-Konten.
Als Nachrichtenseiten und Bürgergruppen getarnt, förderten sie die Wiedervereinigung Taiwans mit dem chinesischen Festland und verunglimpften Hongkongs Demonstranten. Der Bericht fand Links zwischen den Seiten und einem in Malaysia ansässigen Start-up, das Webnutzern Singapur-Dollar bot, um den Inhalt zu bewerben.
Aber Regierungen könnten feststellen, dass die Auslagerung solcher Schattenarbeit auch Risiken birgt, sagte Mr. Brookie. Zum einen sind die Firmen schwerer zu kontrollieren und könnten in unerwünschte Botschaften oder Taktiken geraten.
Zum anderen können Firmen, die auf Betrug organisiert sind, diese Energien genauso wahrscheinlich auf ihre Kunden lenken, Budgets aufblähen und Arbeiten in Rechnung stellen, die nie erledigt werden.
„Das Endergebnis ist, dass Grifter online kriechen werden“, sagte er.