Wie Twitter-Bots Posts über Proteste in China übertönten

Twitter und sein neuer Besitzer, Elon Musk, haben kürzlich geschworen, hart gegen Bots vorzugehen. Aber die Spam-Flut für chinesische Nutzer in den letzten Wochen hat die Herausforderungen unterstrichen, vor denen das Unternehmen bei der Überwachung betrügerischer und unechter Aktivitäten steht, insbesondere in Fremdsprachen, die traditionell von großen amerikanischen Social-Media-Plattformen lockerer überwacht werden.

Für viele Chinesen, die sich an die Plattform wandten, als Demonstrationen gegen die Beschränkungen von Covid-19 politisch geworden und weit verbreitet waren – mehr als alle Proteste dort seit Jahrzehnten – schien die Erfahrung mit der Nutzung der App eine andere Realität einzufangen.

Ein Großteil des Spams ist mit kommerziellen Bot-Netzwerken verknüpft, die bereits vor Beginn der Proteste am 25. November auf chinesischsprachigem Twitter operierten, so eine Analyse der New York Times mit Tausenden von Tweets und Interviews mit Personen hinter einigen der Bots Konten und einen Bericht eines Forschers an der Stanford University.

Die Times suchte auf Twitter nach 10 chinesischen Städten wie „北京“ („Peking“) und überprüfte die Ergebnisse auf Spam. Die Analyse ergab, dass Bots durchgehend aktiv waren, sogar in Städten, in denen keine Proteste stattfanden. Bei der Kontaktaufnahme gaben zwei Unternehmen, die in Spam-Tweets auftauchten, an, dass sie die Tweets über Werbedienste gekauft hätten.

Die Times suchte auch nach sechs Städtenamen außerhalb Chinas in Englisch und vereinfachtem Chinesisch. Nur die englischen Suchen waren frei von Spam-Bots.

Die Times-Analyse stimmte mit den am Montag von David Thiel, dem Cheftechnologen des Stanford Internet Observatory, veröffentlichten Ergebnissen überein. Herr Thiel überprüfte Millionen von Tweets, indem er nach 30 chinesischen Städten suchte, und stellte fest, dass Bots aktiv waren, bevor die Proteste begannen und fortgesetzt wurden, nachdem sie abgeebbt waren. Twitter hat viele der Konten gesperrt, aber der Spam ging weiter, während andere Bots weiter twitterten, schrieb er in dem Bericht.

Mr. Musk, der Twitter einen Monat vor Beginn der Proteste übernahm, sagte, dass die Kontrolle von Bots „absolut höchste Priorität“ habe. Aber in den Wochen seit der Übernahme des Unternehmens hat er die Belegschaft von Twitter um etwa die Hälfte reduziert. Er löste auch den Trust and Safety Council des Unternehmens auf, eine Beratungsgruppe, die 2016 gegründet wurde, um Hassreden und andere Probleme auf Twitter anzugehen.

In einer internen E-Mail über die Entscheidung, den Trust and Safety Council zu beenden, sagte das Unternehmen, es werde „schneller und aggressiver vorgehen“, um Twitter sicherer zu machen, gab jedoch keine Einzelheiten zu seinen Plänen bekannt. Das Unternehmen und Herr Musk antworteten nicht auf eine Bitte um Stellungnahme.

„Ich fühle mich fast wie im Wilden Westen“, sagte Eirliani Rahman, ein ehemaliges Mitglied des Trust and Safety Council, in einem Interview. In ein Brief auf Twitter gepostet, um ihren Rücktritt in diesem Monat bekannt zu gebenschrieb sie, dass die „Sicherheit und das Wohlbefinden“ der Twitter-Nutzer abnahmen, und fügte hinzu, dass „aus der Hüfte zu schießen ist nicht die Art und Weise, wie man Inhalte moderiert“.

In einem kürzlichen Live-Chat schlug Herr Musk vor, dass das Unternehmen beim Verbot von Bots zu aggressiv sei und dabei einige legitime Konten sperrte. Doch unter den chinesischsprachigen Inhalten auf Twitter scheinen die Bots eine bedeutende Präsenz zu behalten.

Einige Internet-Wachhunde haben vermutet, dass die chinesische Regierung hinter den Spam-Bots steckt. Die New York Times und Mr. Thiel von der Stanford University fanden keine Beweise für diese Idee.

Die Werbekampagnen haben eine gewisse Ähnlichkeit mit Propagandakampagnen der chinesischen Regierung, die dazu neigen, Schwärme von Bots einzusetzen, um authentische Posts in den Suchergebnissen zu überwältigen. Aber diese Kampagnen verwenden normalerweise politische Hashtags und geben staatlich unterstützte Botschaften wieder.

Die Bots, die während des Protests Inhalte posteten, konzentrierten sich nicht auf verwandte Hashtags; Stattdessen enthielten sie allgemeinere Begriffe wie die Namen chinesischer Städte neben Inhalten für Erwachsene.

In China sind Prostitution und pornografische Inhalte illegal, und mächtige Zensoren führen einen endlosen Kampf, um die Werbung für diese Dienste einzuschränken. Daher strömen diese Unternehmen oft zu Plattformen wie Twitter und Instagram, die weitaus weniger Ressourcen für die Überwachung und Pflege von Inhalten haben, die auf Chinesisch geteilt werden.

Die Schätzungen über die Anzahl der Bots auf Twitter variieren. Das Unternehmen hat öffentlich bekannt gegeben, dass Bots weniger als 5 Prozent seiner Benutzerbasis ausmachen. Im Jahr 2017 schätzten Forscher der Indiana University und der University of Southern California, dass diese Zahl eher bei 15 Prozent lag.

Yoel Roth, der frühere Leiter für Sicherheit und Integrität bei Twitter, der letzten Monat zurückgetreten ist, hat die Bemühungen kritisiert, Bot-Aktivitäten auf Twitter zu untersuchen. Schreiben im Jahr 2020, dass automatisierte Konten ein „starkes Werkzeug“ für den Kundenservice und andere ähnliche Fälle sein könnten. Er fügte hinzu, dass das Unternehmen seine Aufmerksamkeit stattdessen darauf konzentriert habe, den „böswilligen Einsatz von Automatisierung“ zu begrenzen, der darauf abzielt, Gespräche zu manipulieren.

Da Twitter und Social-Media-Plattformen die Beseitigung betrügerischer Aktivitäten priorisiert haben, sagen Experten für Fehlinformationen, dass die Unternehmen bei der Überwachung von Posts, die nicht auf Englisch sind, weitgehend versagt haben. Die Times-Analyse ergab, dass die Bot-Aktivität für Suchanfragen zu #Beijing bei Suchanfragen in chinesischer Sprache weitaus schlechter erschien als bei Suchanfragen in englischer Sprache.

Herr Thiel, der Forscher aus Stanford, sammelte über mehrere Wochen Millionen von Tweets, um die Bot-Kampagnen zu verfolgen. Er fand Hunderttausende von Konten mit eindeutigen Anzeichen für Bot-Aktivitäten, wie z. B. das wiederholte Tweeten des gleichen Inhalts mit einer anderen Kombination aus Hashtags und Fotos. Twitter habe oft Tage gebraucht, um nicht authentische Konten zu sperren, was typisch für das soziale Netzwerk sei, sagte Herr Thiel. Dadurch konnten ihre Inhalte die Suchergebnisse tagelang überfluten, bis das Unternehmen handelte – gerade rechtzeitig, um neue Konten zu erstellen und den Trommelschlag von Spam fortzusetzen.

„Es werden immer wieder neue Spam-Kampagnen zur Sprache gebracht, neue Umgehungs-Methoden, neue Accounts werden erstellt“, sagte Herr Thiel in einem Interview.

Viele von The Times analysierte Konten stellen Kontaktinformationen in ihrem Profil oder in ihren Tweets bereit. Ein Mitarbeiter eines in einem Spam-Tweet aufgeführten Unternehmens sagte in einem Online-Chat, dass es Begleitdienste anbietet und keine Verbindung zur Regierung habe. Der Mitarbeiter, der sich weigerte, einen Namen zu nennen, sagte, das Unternehmen führe auch Werbekampagnen auf Facebook und Instagram durch.

In einem anderen Online-Chat sagte ein Anbieter von Werbung für Escort- und Glücksspieldienste, dass das Unternehmen für einige der Spam-Tweets verantwortlich sei. Die Person stellte eine Preisliste für Online-Werbung durch Bots zur Verfügung, die 9.600 Renminbi, etwa 1.400 US-Dollar, pro Monat für eine Werbekampagne auf Twitter verlangt, an der 200 Bot-Konten beteiligt sind, die mindestens 150 Mal am Tag twittern. Das Unternehmen bietet auch Foto- und Videodesign an.

Spam-Konten können auch von Regierungen von Bot-Marktplätzen gekauft und wiederverwendet werden, was es schwierig macht, zu sagen, ob eine Kampagne kommerziell oder politisch ist, so ein ehemaliger Twitter-Mitarbeiter, der in seiner Gruppe für Sicherheit und Integrität gearbeitet und staatlich unterstützte Einflussnahmen analysiert hat. Der ehemalige Mitarbeiter sprach aufgrund der Bedingungen einer Aufhebungsvereinbarung mit dem Unternehmen unter der Bedingung der Anonymität.

„Wenn man bedenkt, wie effektiv es war, andere Menschen zu übertönen, wäre ich nicht überrascht, wenn irgendeine Regierung in Zukunft versuchen würde, diese Technik anzuwenden“, sagte Herr Thiel.