Bevor Payton Gendron am vergangenen Wochenende in einem Lebensmittelgeschäft von Tops in Buffalo, New York, eine rassistische Massenerschießung durchführte, bei der zehn Menschen getötet und drei weitere verletzt wurden, verbrachte er viele Monate damit, sein Hassverbrechen im Internet zu entwickeln. Protokolle einer waffenorientierten Gruppe namens Plate Land auf der sozialen Plattform Discord, die von der gemeinnützigen Medienorganisation Unicorn Riot gesammelt wurden, zeigen, dass er die Wirksamkeit von Körperschutz diskutiert hatte. „Würde es nicht sehr wehtun, mit irgendeiner Art von Kugel mit Panzerung geschossen zu werden“, schrieb er Anfang 2021 unter dem Benutzernamen Jimboboii. Tausende anderer Discord-Nachrichten, die in den letzten Tagen im Umlauf waren, machen seine Absichten glasklar: „Es ist Zeit zu Stoppen Sie Shitposting und Zeit, um einen Shitpost zu machen, der sich im wirklichen Leben anstrengt. Ich werde einen Angriff durchführen“, erklärte der 18-jährige Gendron im Dezember. Als Datum für seinen Angriff hatte er damals bereits den 15. März 2022 ausgemacht, in Anspielung auf den dritten Jahrestag der Massenerschießung im neuseeländischen Christchurch, bei der einundfünfzig Menschen getötet wurden. (Am Ende wurde er durch einen Fall von verzögert COVID-19.) Gendron veröffentlichte später ein Manifest auf dem anonymen Forum 4chan, in dem er seine Motive erklärte, die sich auf die „Ersatztheorie“ konzentrierten, die falsche Überzeugung, dass weiße Menschen einem Völkermord ausgesetzt sind und durch Einwanderer ersetzt werden. Sein Angriff würde „die bereits auf unserem Land lebenden Ersetzer einschüchtern“, schrieb er. Während der Dreharbeiten nutzte er eine GoPro, um auf Twitch live zu streamen, einer Plattform, die vor allem dafür bekannt ist, dass sie es Menschen ermöglicht, anderen beim Spielen von Videospielen zuzusehen. Der Stream wurde nach zwei Minuten abgeschaltet, eine schnelle Reaktion von Twitch, aber das Filmmaterial hat sich seitdem über das Internet verbreitet und Millionen von Aufrufen über Twitter und andere soziale Plattformen erhalten.
Gendron, der am Donnerstag von einer Grand Jury wegen Mordes ersten Grades angeklagt wurde, war kaum der erste Massenschütze, der sich eines beunruhigenden Kits aus Websites und Apps bediente, um einen Angriff zu planen, auszuführen und zu dokumentieren. Der Mörder von Christchurch hat 2019 seinen Amoklauf auch siebzehn Minuten lang live auf Facebook gestreamt. Ein deutscher Massenschütze benutzte im selben Jahr Twitch, um seinen Angriff vor einer Synagoge zu übertragen; Es wurde von mehr als zweitausend Menschen auf der Plattform gesehen. Teile von Gendrons Schriften wurden direkt aus dem eigenen Manifest des Attentäters von Christchurch entnommen, das in den sozialen Medien veröffentlicht wurde und zu einem Bezugspunkt für rassistische Extremisten geworden ist. In El Paso, Texas, veröffentlichte der rechtsextreme Schütze, der 2019 in einem Walmart 23 Menschen tötete, eine Estrichmeldung im Forum 8chan. Discord hat berichtet, dass es in der zweiten Hälfte des letzten Jahres mehr als zweitausend Gemeinschaften verboten hat, die sich „um Hass, Gewalt oder extremistische Ideologien herum organisiert haben“. Dennoch diskutierte Gendron die Einzelheiten seiner gewalttätigen Pläne auf der Plattform freimütig. Das Erschreckendste an seinen Unmengen von Nachrichten ist, wie rassistische Galle und kriminelle Intrigen neben den Arten von alltäglichen Updates koexistieren, die überall im Internet zu finden sind. „Die weiße Bevölkerung in den USA wird durch Scheißhäute ERSETZT“, schrieb Gendron mit einer rassistischen Beleidigung. Er kündigte sein Ziel an, „die Städte von nichtweißen Menschen zurückzuerobern“ und beschrieb seine Unterstützung für Eugenik. Er postete über Sturmgewehrmagazine, Live-Stream-Technologie-Fehlerbehebung und was er zu Mittag gegessen hat. „Ich hatte eine sehr schlechte Nachtruhe, ich würde an meinem Manifest arbeiten, aber ich kann gerade nicht denken“, schrieb er. Er empfahl Waffengeschäfte („Ich mag den Typen von Vintage Firearms“) und merkte an, mit einem Freund auf einen Flohmarkt gegangen zu sein: „Es war eine schöne Pause von der Vorbereitung auf den Angriff.“ Er recherchierte, wann sein anvisiertes Lebensmittelgeschäft Tops, das sich in einem mehrheitlich von Schwarzen bewohnten Viertel befindet, höchstwahrscheinlich voll von Einheimischen war: „Laut Google Maps ist es dort, wo es am meisten los ist, von 15 bis 17 Uhr.“ Er zählte laut auf, wie viele Menschen er zu töten hoffte: „Ich erwarte 10–20 Tote aus Bereich 1, 5–10 Tote aus Bereich 2 und weitere 5–10 Tote aus Bereich 3.“
Discord ist zu einem Zufluchtsort für Gen Z-Anhänger geworden, die es nutzen, um online mit ihren Freunden abzuhängen, aber ältere Generationen, die sich immer noch auf Twitter und Facebook verlassen, sind sich dessen möglicherweise gar nicht bewusst. Wie Twitch, das zu Amazon gehört, ist Discord aus der Gaming-Branche hervorgegangen und vermarktete sich an Spieler, die in Echtzeit miteinander sprechen mussten. (Videospiele wurden einst dafür verantwortlich gemacht, ihre Spieler dazu zu bringen, Gewalt zu begehen; heute scheint es offensichtlich, dass der Inhalt von Spielen weniger relevant ist als die demografische, die Gaming-Websites anziehen: gelangweilte und isolierte männliche Jugendliche.) Seit Discord im Jahr 2015 gestartet wurde hat sich zu einem Allzwecktool für das Hosten verschiedener Arten von digitalen Communities entwickelt. Mehr als einhundertfünfzig Millionen Benutzer verbinden sich monatlich über Chat, Videostreams und Live-Audio-Gespräche mit der Plattform. Die Discord-App sieht ein bisschen aus wie das Arbeitsplatz-Tool Slack, wenn Slack es Ihnen erlaubt, durch viele verschiedene Gruppen auf einmal zu blättern. Wenn Sie sich anmelden, wird auf der linken Seite Ihres Bildschirms eine vertikale Leiste mit Avatar-Miniaturansichten angezeigt, die verschiedene Chatrooms darstellen, denen Sie angehören, sowie Direktnachrichten mit einzelnen Benutzern. Sobald Sie sich in eine Gruppe geklickt haben, können Sie aus verschiedenen thematischen Unterkanälen auswählen. (Plate Land hatte zum Beispiel einen Kanal #bag-general für Diskussionen über Ausrüstung und einen anderen namens #weapon-talk.) Die Benutzererfahrung ist chaotisch und auf obsessives Engagement ausgerichtet. Wenn Sie Ihre Updates und Benachrichtigungen nicht ständig überwachen, häufen sie sich wahrscheinlich zu einer unverständlichen Masse an. Stellen Sie sich vor, Sie versuchen, ein Dutzend verschiedener Twitter-Konten gleichzeitig in einer einzigen Oberfläche zu überwachen.
Wie andere in den letzten Tagen betont haben, ist „einsamer Wolf“ eine Art Fehlbezeichnung für Rechtsterroristen, deren Ideen und Methoden explizit durch Online-Communities gefördert werden. Solche Extremisten radikalisieren sich nicht allein dadurch, dass sie die automatisierten algorithmischen Feeds lesen, die der Rest von uns auf Facebook oder YouTube sieht. Sie suchen Foren für Gleichgesinnte, folgen charismatischen Stimmen und stacheln sich gegenseitig an. Ein Massenschütze, der Inspiration in Christchurch oder Ermutigung in Chatrooms findet, ist kein Einzelgänger oder spontaner „Nachahmer“, sondern ein digitaler Mitstreiter. Viele der Server von Discord, wie sie genannt werden, sind für jedermann zugänglich und können daher in einem zentralen Verzeichnis durchsucht werden, ähnlich wie die durchsuchbaren Kanäle oder Subreddits von Reddit. Aber viele andere sind privat, was bedeutet, dass nur diejenigen mit einem Link von ihren Administratoren auf sie zugreifen können. Discord teilte mir durch einen Sprecher mit, dass Gendron seine Nachrichten auf einem „Nur-Invite-Server“ postete, den er als „persönliches Tagebuch-Chat-Protokoll“ verwendete. Laut dem Sprecher sah niemand sonst den Inhalt des Servers bis etwa dreißig Minuten vor dem Schießen, als „eine kleine Gruppe von Leuten“ eingeladen wurde, sich anzuschließen. Discord wollte sich nicht dazu äußern, ob Gendron auf der Plattform jenseits von Plate Land und seinem persönlichen Server aktiv war. Aber selbst als er angeblich privat postete, schien er sich seines eigenen Potenzials bewusst zu sein, andere zu beeinflussen. „Es ist mir ziemlich unangenehm, so viele meiner persönlichen Gedanken und Gefühle preiszugeben, aber vielleicht ist es für jemanden nützlich“, schrieb er am 4. März auf Discord. In gewisser Weise ähneln die Kräfte, die Massenschützen fördern, denen, die die Karrieren aller Influencer antreiben und die Verbraucher passiver Inhalte in den Orbit besonders lautstarker Poster ziehen.
Auf andere Weise brechen die von Extremisten bevorzugten digitalen Tools jedoch mit den dominierenden sozialen Netzwerken des letzten Jahrzehnts. Live-Streaming-Videos sind notorisch schwer zu moderieren und zu zensieren, da sie in Echtzeit erfasst und entfernt werden müssen. Während YouTube verlangt, dass Benutzer eine fünfzigköpfige Anhängerschaft haben, bevor sie live streamen dürfen, ist Twitch so konzipiert, dass jeder sofort übertragen kann. (Das Unternehmen sagte diese Woche, dass Gendron „auf unbestimmte Zeit von unserem Dienst suspendiert wurde“ und dass es „Konten überwacht, die diesen Inhalt erneut senden“.) Discord ist unterdessen Teil einer Bewegung in den sozialen Medien, um kleinere, privatere Inhalte zu schaffen Online-Communities für diejenigen, die den chaotischen „öffentlichen Plätzen“ des Internets entfliehen wollen. Aber die Flucht in die Privatsphäre, wie sie manchmal genannt wird, macht es schwieriger, problematische Benutzeraktivitäten zu identifizieren. Auf digitalen Plattformen wie YouTube oder Facebook entdecken Watchdog-Gruppen und Journalisten oft problematische Inhalte, bevor die Plattformen selbst handeln, um sie zu entfernen. Diese Beobachtung von außen wird viel schwieriger, wenn Inhalte vor der Öffentlichkeit verborgen sind, daher müssen sich Plattformen darauf verlassen können, die Kommunikation intern zu verfolgen. Anders als bei WhatsApp oder anderen verschlüsselten Nachrichtendiensten können die angestellten Moderatoren von Discord private Inhalte überprüfen. Laut dem Unternehmenssprecher hat Discord ein engagiertes „Unterteam zur Bekämpfung des Extremismus“ und verwendet eine „Mischung aus proaktiven und reaktiven Tools“, einschließlich maschinellem Lernen, um gewalttätige und hasserfüllte Ideologien auszurotten, „bevor sie uns gemeldet werden“. Gendron veröffentlichte jedoch bis wenige Tage, bevor er sie ausführte, offen über seine gewalttätigen Pläne. Am 1. Mai fragte er sich: „Vielleicht sollte ich die eine der Hintertüren von Tops mit meinem Auto blockieren? Ich habe gerade gesehen, wie der Binghamton-Shooter seinen Angriff ausgeführt hat, ich habe nicht einmal daran gedacht, die Türen zu blockieren. Am 9. Mai schrieb er: „Egal, was für euch Menschen und eure Rasse richtig ist.“ Discord sagte, dass es nur auf Gendrons persönlichen Server aufmerksam geworden sei und ihn „unmittelbar nach dem Angriff“ heruntergefahren habe. Die Frage ist nun, warum die Erkennungsmechanismen der Plattform so eklatant versagten. (Am Mittwoch kündigte die New Yorker Generalstaatsanwältin Letitia James eine Untersuchung von Twitch, Discord und anderen Plattformen im Zusammenhang mit der Schießerei an.)
Extremistische Inhalte von sozialen Plattformen fernzuhalten, wird immer ein notwendiges Schlag-auf-Maus-Spiel sein. Wie Kathleen Belew, eine Wissenschaftlerin für Rechtsextremismus, kürzlich in einem Artikel schrieb Mal op-ed, die Ersatztheorie, die Schützen wie Gendron vertreten, hat sich vom Rand in den Mainstream bewegt, und das „Fenster zum Handeln schließt sich“. Doch selbst wenn es einer Plattform gelingt, eine Hassgruppe auszurotten, bevor etwas Schreckliches passiert, kann sie die Mitglieder nicht davon abhalten, sich anderswo online neu zu gruppieren. Ein aufschlussreiches Beispiel stammt aus der Online-Aktivität, die zu den Unruhen am 6. Januar auf dem Kapitol führte. Ein langjähriger Subreddit, der sich auf Pro-Trump-Inhalte konzentrierte, r/donaldtrump, wurde nach der Invasion verboten, weil er Aufrufe zur Gewalt gehostet hatte. Nutzer des Subreddit hätten laut einer Reddit-Erklärung „Richtlinienverstöße“ begangen. Aber ein anderer Subreddit, der zuvor verboten worden war, r/The_Donald, wurde vor dem 6. Januar wieder zu einer Website namens TheDonald.win, auf der Benutzer ebenfalls aktiv an der Planung des Aufstands beteiligt waren. Als auch diese Seite am 21. Januar 2021 abgeschaltet wurde, zogen ihre Nutzer auf die Domain Patriots.win um. Im Fall des ersten Forums war das Vorgehen von Reddit zu wenig, zu spät; im zweiten Fall war die Reaktion der Plattform zeitgerechter, aber immer noch wirkungslos. Gendrons ständiges „Shitposting“ auf Discord war offensichtlich zentral für seine Planung des Massenmords; Ohne diesen Ort wäre es möglich, dass er seinen Angriff nicht durchgezogen hätte. Leider ist es genauso gut möglich, dass er sein zwanghaftes Komplott einfach woanders hingebracht hätte.