Das interne Aufsichtsgremium von Meta kritisierte die Unternehmensrichtlinien, die VIP-Nutzern – darunter Prominente, Politiker und Geschäftspartner – eine bevorzugte Behandlung auf Facebook und Instagram gewähren.
Wenn Sie ein regelmäßiger Benutzer einer der beiden Plattformen sind, unterliegt Ihre Rede den häufig umstrittenen Richtlinien zur Moderation von Inhalten des Technologieriesen. Wenn Sie jedoch Donald Trump oder Kim Kardashian heißen oder einfach nur eine sehr hohe Follower-Zahl haben, haben Sie mehr Spielraum, Dinge zu teilen und zu sagen, die gegen die Regeln verstoßen.
Das als Cross-Check bekannte interne Programm bei Facebook und Instagram schützt Prominente und andere hochkarätige Benutzer davor, dass ihre Inhalte automatisch von den Algorithmen des Unternehmens entfernt werden.
Offenlegungen der Whistleblowerin Frances Haugen, die vor dem Kongress ausführlich über das Programm aussagte, scheinen jedoch in die Einschätzung des Aufsichtsgremiums eingeflossen zu sein. Haugen sagte, das Unternehmen wähle „Gewinne über Sicherheit“.
Das interne Aufsichtsgremium von Meta kritisierte die Unternehmensrichtlinien, die VIP-Benutzern – darunter Prominente, Politiker und Geschäftspartner – eine bevorzugte Behandlung auf Facebook und Instagram bei Entscheidungen zur Inhaltsmoderation gewähren
„Der Vorstand ist besorgt darüber, wie Meta Geschäftsinteressen bei der Moderation von Inhalten priorisiert hat“, heißt es in dem Bericht. Das Programm, hieß es, “biete zusätzlichen Schutz für die Meinungsäußerung bestimmter Benutzer.”
Als die Aufsichtsbehörde mit der Untersuchung des Cross-Check-Programms begann, führte Meta jeden Tag erstaunliche 100 Millionen Durchsetzungsversuche für Inhalte durch.
Selbst wenn das Unternehmen in der Lage wäre, solche Entscheidungen mit einer Genauigkeit von 99 % zu treffen – ein unmöglicher Standard –, würde es immer noch eine Million Fehler pro Tag machen.
Meta entschied sich für „Gewinne über Sicherheit“, sagte ein Whistleblower vor dem Kongress aus. Oben: Meta-CEO Mark Zuckerberg
Zu den wichtigsten Erkenntnissen des Boards, die in einem 57-seitigen Bericht detailliert beschrieben werden, gehört, dass Inhalte, die gegen die eigenen Regeln von Meta verstoßen, oft länger als fünf Tage offen bleiben, wenn der Benutzer, der sie veröffentlicht, ein VIP ist.
Das von Mark Zuckerberg geführte Unternehmen bietet der Öffentlichkeit derzeit nicht viel Transparenz darüber, wie Cross-Checks funktionieren.
„Derzeit informiert Meta die Benutzer nicht darüber, dass sie auf Gegenprüflisten stehen, und teilt seine Verfahren zur Erstellung und Prüfung dieser Listen nicht öffentlich mit“, schrieb der Vorstand in einer Zusammenfassung seiner Arbeit, die im Oktober 2021 begann.
„Es ist zum Beispiel unklar, ob Entitäten, die kontinuierlich verletzende Inhalte posten, auf der Grundlage ihres Profils auf Gegenprüflisten geführt werden.“
Der Vorstand empfiehlt, die Seiten und Konten aller Organisationen, die listenbasierten Schutz erhalten, bei Meta in den folgenden Kategorien öffentlich zu kennzeichnen: „alle staatlichen Akteure und politischen Kandidaten, alle Geschäftspartner, alle Medienakteure und alle anderen Personen des öffentlichen Lebens, die aufgrund des Werbespots eingeschlossen sind Nutzen für das Unternehmen.’
Die Kammer schrieb auch, dass die Cross-Check-Systeme von Meta mit einem „beständigen Rückstand von Fällen“ arbeiten.
„Meta teilte dem Vorstand mit, dass es im Durchschnitt mehr als fünf Tage dauern kann, bis eine Entscheidung über Inhalte von Benutzern auf seinen Cross-Check-Listen getroffen wird“, stellte die Aufsichtsgruppe fest. „Das bedeutet, dass Inhalte, die als gegen Metas Regeln verstoßend identifiziert wurden, aufgrund einer Gegenprüfung auf Facebook und Instagram zurückgelassen werden, wenn sie am viralsten sind und Schaden anrichten könnten.“
In vielen Fällen hat diese Verzögerung negative Konsequenzen im wirklichen Leben.
So veröffentlichte beispielsweise der brasilianische Fußballstar Neymar 2019 ein Video, das Nacktfotos einer Frau zeigt, die ihm sexuelle Übergriffe vorgeworfen hatte.
Aufgrund des Cross-Check-Programms blieb der Beitrag mehr als einen Tag stehen und erhielt mehr als 100 Millionen Aufrufe, bevor er schließlich entfernt wurde.
In seinem Bericht fragt der Vorstand, warum der Athlet nicht suspendiert wurde, und stellt auch fest, dass der Vorfall erst durch Haugens Angaben ans Licht gekommen sei.
Insgesamt empfahl der Vorstand 32 verschiedene Maßnahmen und gab Meta 90 Tage Zeit, um darauf zu reagieren. Da der Vorstand jedoch beratend tätig ist, ist das Unternehmen nicht verpflichtet, seine Vorschläge umzusetzen.
Als die Aufsichtsbehörde mit der Untersuchung des Cross-Check-Programms begann, führte Meta jeden Tag etwa 100 Millionen Versuche zur Durchsetzung von Inhalten durch