Politische Entscheidungsträger auf der ganzen Welt sind alarmiert über die algorithmischen Schäden, die die Facebook-Whistleblowerin Frances Haugen aufgedeckt hat – aber nur die EU hat unmittelbar die Möglichkeit, Gesetze zu erlassen, die sie sinnvoll angehen würden, schreiben Katarzyna Szymielewicz, Emma Ruby Sachs, Tanya O’Carroll und Nienke Palstra.
Katarzyna Szymielewicz ist die geschäftsführende Direktorin der Panoptykon-Stiftung.
Emma Ruby Sachs ist die geschäftsführende Direktorin von SumofUs.
Tanya O’Carroll ist eine unabhängige Expertin für Technologie und Menschenrechte.
Nienke Palstra ist Senior Campaignerin bei Global Witness.
In ihrer Aussage vor dem US-Kongress machte Haugen deutlich, dass man Facebook nicht vertrauen kann, sich selbst zu beaufsichtigen: „Ich glaube, dass es eine eigene Aufsichtsbehörde geben muss, denn im Moment sind die einzigen Menschen auf der Welt, die geschult sind … zu verstehen, was innerhalb von Facebook passiert.“ sind Leute, die innerhalb von Facebook aufgewachsen sind“, sagte sie den Senatoren. Auf die Frage, ob die Lösung eine Regulierungsbehörde innerhalb der US-Bundesregierung sei, war ihre Antwort kurz und präzise: „Ja“.
Aber in der Praxis besteht die beste Chance, bald eine Aufsicht über Facebook zu erlangen, hier in Europa, nicht in den USA. Das Gesetz über digitale Dienste – ein Gesetzentwurf, der eine Überarbeitung der Regeln für die größten Online-Plattformen verspricht – steht am 8. November zur Debatte im Europäischen Parlament. Der Zeitpunkt könnte nicht zufälliger sein, weshalb Haugen nach Brüssel reist, um am Tag der ursprünglich geplanten Abstimmung persönlich vor dem IMCO-Ausschuss des Europäischen Parlaments zu sprechen.
Nach Jahren der Entwicklung könnte die DSA das kaputte Geschäftsmodell von Big Tech reparieren, indem sie eine Reihe leistungsstarker neuer Tools einführt, die die größten Plattformen der Welt zwingen würden, ihre Kernmechaniken – Dinge wie Werbe- und Empfehlungsalgorithmen – zu entwickeln. mit Blick auf ihre Auswirkungen auf die Gesellschaft, nicht nur auf das Endergebnis des Unternehmens. Drei Werkzeuge in der Toolbox der DSA sind besonders wichtig, um die algorithmisch aufgeladenen Schäden zu mildern, die derzeit Menschenrechte, Demokratien und das Leben der Menschen untergraben.
Erstens die neuen Verpflichtungen zur Risikobewertung. Da Hassreden, Gewalt und Desinformation durch die Gestaltungsmerkmale von Plattformen wie Facebook erleichtert werden, müssen Unternehmen eine klare Verpflichtung auferlegen, das Risiko der Verbreitung und Verbreitung dieser Art von Inhalten durch . zu erkennen, zu verhindern und zu mindern ihre Produkte. Durch die Artikel 26 und 27 des DSA wären Plattformen gezwungen, zu berücksichtigen, wie ihre Designentscheidungen und operativen Ansätze diese Risiken beeinflussen und erhöhen können, und dann Maßnahmen zu ihrer Minderung zu ergreifen.
Die systematische Überprüfung und Reparatur der Designentscheidungen, die schädliche und illegale Inhalte verstärken und verbreiten, ist besser, als ein endloses Spiel mit schädlichen Inhalten zu spielen – ein Spiel, das unweigerlich zu komplexen Debatten über freie Meinungsäußerung und Zensur führt.
Zweitens schlägt das Gesetz vor, erstmals die „Black Box“ der Empfehlungssysteme von Facebook zu regulieren. Diese Systeme bestimmen, was jeder Benutzer sieht, basierend auf seinem früheren Verhalten und dem Profil der vorhergesagten Interaktionen. Gemäß Artikel 29 des DSA müssen Plattformen Benutzern klare Informationen über die wichtigsten Parameter liefern, die in solchen Empfehlungssystemen verwendet werden, was dem Einzelnen eine viel größere Kontrolle darüber gibt, wie diese derzeit unsichtbaren Systeme nicht nur den Inhalt, den er sieht, sondern manchmal auch sein Weltbild prägen.
Dies ist ein wesentlicher Schritt – aber er reicht nicht aus. Die vorgeschlagene DSA-Klausel sollte dahingehend verbessert werden, dass Empfehlungssysteme nicht mehr auf Data Mining und Profiling basieren, es sei denn, der Benutzer hat ausdrücklich eine ausdrückliche, informierte und eindeutige Zustimmung gegeben (d aus standardmäßig). Dies wäre ein entscheidender Schritt zur Neutralisierung eines Schlüsselmechanismus in der Art und Weise, wie sich derzeit schädliche Inhalte auf Facebook verbreiten. Noch wichtiger ist, dass die Klausel es Dritten ermöglichen sollte, alternative Empfehlungssysteme auf sehr großen Online-Plattformen, was die Vielfalt und Auswahl für die Nutzer im Laufe der Zeit erhöhen würde.
Drittens ist jede Regulierung nur so gut wie ihre Durchsetzung. Die DSA muss daher den Aufsichtsbehörden stärkere Befugnisse geben, um Facebook sinnvoll zu überwachen und Maßnahmen zu ergreifen, wenn das Unternehmen identifizierte Risiken nicht angeht. Ein effektiver Weg, dies zu tun, wäre die Einrichtung einer unabhängigen, technisch fähigen Aufsicht auf EU-Ebene, wie es bisher der Fall war vorgeschlagen von der Europaabgeordneten Alexandra Geese von den Grünen. Eine Fallback-Option wäre, der Europäischen Kommission mehr Befugnisse zu geben, einzugreifen, wenn eine Plattform keine Maßnahmen ergreift, um identifizierte Risiken zu mindern. In jedem Fall braucht die Aufsichtsbehörde sowohl Unabhängigkeit als auch Stärke, um einige der mächtigsten Unternehmen der Welt zur Rechenschaft ziehen zu können.
Äußerst vorsichtig müssen die Abgeordneten auch mit dem elften-Stunden-Vorschlag des JURI-Ausschusses sein, eine Medienausnahmeklausel in das DSA aufzunehmen. Die Aufnahme einer solchen Klausel würde nicht nur Tausende von inszenierten Desinformations- und Hassnetzwerken vor den Maßnahmen der DSA schützen, sondern auch Plattformen daran hindern, selbst freiwillig Abhilfe zu schaffen. Kurz gesagt: Uns würde es schlechter gehen als zuvor, wenn es um genau die Themen ging, die Haugen und Whistleblower wie Sophie Zhang, Yael Eisenstat und andere, bevor sie so viel riskierte, aufzudecken.
Angesichts ihrer beispiellosen Gewinne überrascht es nicht, dass Big Tech mächtig ist Lobbyarbeit block arbeitet rund um die Uhr daran, den Gesetzgebungsprozess zu kooptieren und alle DSA-Regeln abzuschwächen, die ihr Geschäftsmodell für den Überwachungshandel gefährden könnten. Doch genau dieses Modell gefährdet, wie Haugens Enthüllungen deutlich gemacht haben, die Menschenrechte und das öffentliche Interesse. Deshalb haben über 80 europäische Organisationen eine Erklärung unterschrieben eine DSA zu fordern, die uns vor den Schäden von Big Tech schützt.
Am 8. November werden die Abgeordneten im Vorfeld der kritischen Abstimmung über die DSA direkt von Frances Haugen hören. Hoffen wir, dass ein ehemaliger Big Tech-Insider sie davon überzeugen kann, was auf dem Spiel steht, wenn sie diese historische Chance nicht nutzen.