Die Menschenrechtsgruppe Global Witness sagt, sie habe große Mängel im Überprüfungssystem von Facebook aufgedeckt, als es ihr gelang, in Nordirland eine Reihe von politischen Anzeigen mit sektiererischen Beleidigungen und gewalttätiger Aufwiegelung genehmigt zu bekommen.
Um die von Facebook eingeführten Mechanismen zu testen, hat Global Witness eine Reihe von politischen Anzeigen erstellt, die gegen die Richtlinien der Plattform zu Hassreden und Anstiftung zu Gewalt verstoßen.
Die Anzeigen waren auf Benutzer ausgerichtet, die von der Plattform als interessiert an Protestantismus oder Katholizismus profiliert wurden oder die in bestimmten Gegenden auf beiden Seiten der Belfaster Friedensmauern lebten, die die beiden Gemeinden trennen.
Jede zur Überprüfung eingereichte Anzeige wurde von Facebook genehmigt, auch solche, die gegen die eigenen Richtlinien der Plattform verstoßen, sagte Global Witness in einem am Montag (28. Juni) veröffentlichten Bericht.
Die NGO entfernte die Anzeigen, bevor sie veröffentlicht wurden, sagte jedoch, dass ihre Ergebnisse klare Mängel bei den Mechanismen zur Verhinderung der Veröffentlichung von potenziell gefährlichem Material aufzeigen.
Die Ermittlungen fanden kurz vor dem Ausbruch der Unruhen in Nordirland im März statt, die zu einer der schlimmsten Gewalttaten im Land seit Jahren führten.
Die Ermittlung
Mit aufrührerischer Sprache und Bildern enthielten die Anzeigen Verleumdungen sowohl gegen Katholiken als auch gegen Protestanten, pro- und antibritische Botschaften und forderten die Menschen auf, „auf die Straße zu gehen“.
Die Anzeigen wurden basierend auf den Interessen und dem Standort der Nutzer ausgerichtet. Bei der Einreichung gab Global Witness an, dass sie sich an Personen richten, die von Facebook als interessiert an Katholizismus oder Protestantismus profiliert wurden. Dieses Interesse wird beispielsweise anhand der Seiten bestimmt, mit denen die Nutzer interagiert haben.
Die Untersuchung zielte auch eng auf Anzeigen auf der Grundlage von Postleitzahlen ab. Spezielle Inhalte richteten sich an diejenigen, die entweder auf der überwiegend katholischen oder überwiegend protestantischen Seite der Hauptfriedensmauer von West Belfast lebten.
Der Anzeigenprüfungsprozess von Facebook prüft vorgeschlagenes Material vor der Veröffentlichung anhand seiner eigenen Werberichtlinien. Auf der Facebook-Website heißt es: “Wenn zu irgendeinem Zeitpunkt des Überprüfungsprozesses ein Verstoß festgestellt wird, wird die Anzeige abgelehnt.”
Global Witness sagte jedoch, dies sei nicht seine Erfahrung mit dem Überprüfungsprozess.
„Wir konnten nicht glauben, wie einfach es ist, auf diese Weise Anzeigen, die Gewalt angestiftet und Hassreden enthielten, auf bestimmte Gemeinschaften auszurichten“, sagte Naomi Hirst, Leiterin der Digital Threats Campaign von Global Witness.
„Mit jedem genehmigten Beitrag haben wir verdoppelt, wie hetzerisch wir werden konnten und jedes Mal, wenn Facebook uns grünes Licht gab“, fügte sie hinzu.
Als Reaktion auf die Untersuchung sagte ein Facebook-Sprecher: „Mehrere dieser Anzeigen verstoßen gegen unsere Richtlinien gegen Hassreden und Anstiftung zu Gewalt und wurden inzwischen entfernt. Unsere Durchsetzung ist nicht perfekt, aber wir arbeiten ständig daran, unsere Prozesse zu stärken und zu verbessern.“
„Die Interessen der Menschen basieren auf ihren Aktivitäten auf Facebook – wie den Seiten, die sie mögen und den Anzeigen, auf die sie klicken – und nicht auf ihren persönlichen Eigenschaften“, fügte der Sprecher hinzu.
Anzeigen-Targeting
Die breiteste von Facebook angebotene Kategorie des Anzeigen-Targetings bedeutet, dass die Plattform bestimmt, wer das Material sieht. Am anderen Ende der Skala können Werbetreibende ihre Inhalte auf Nutzer an bestimmten Orten, bestimmten Alters oder Geschlechts ausrichten und die in der Vergangenheit mit bestimmten Seiten interagiert haben.
In der EU enthält das vorgeschlagene Gesetz über digitale Dienste (DSA) eine Reihe von Maßnahmen, um die Transparenz in Bezug auf Online-Werbung zu erhöhen. Im Februar erklärte der EU-Datenschutzbeauftragte (EDSB) jedoch, dass diese Maßnahmen nicht weit genug gingen und forderte ein vollständiges Verbot von Ad-Targeting.
Im Anschluss an seine Untersuchung fordert Global Witness eine Regulierung des „Überwachungsgeschäftsmodells von Big Tech“, indem Plattformen verpflichtet werden, den Nutzern gegenüber transparent zu sein, von wem sie angegriffen werden und aus welchen Gründen.
Die Gesetzgeberin von Belfast, Claire Hanna, sagte gegenüber EURACTIV, dass die Reaktion von Facebook nicht ausreiche und dass die Untersuchung gezeigt habe, wie einfach es sei, mit Targeting Communities zu manipulieren und zu Gewalt aufzustacheln.
„Es ist erschreckend und zeigt wirklich deutlich, wie viel Social-Media-Giganten noch tun müssen, um die leistungsstarken Tools, die sie anbieten, unter Kontrolle zu bringen“, sagte sie.
[Edited by Luca Bertuzzi and Josie Le Blond]