Nach dem neuen digitalen Regelwerk der EU müssen Online-Plattformen Prüfern die Möglichkeit geben, unter die Haube zu blicken und ihre Algorithmen zu bewerten. Im Zusammenhang mit dieser beispiellosen Aufgabe bleiben jedoch noch einige Fragen offen.
Mit dem Digital Services Act (DSA) wird ab August eine spezielle Regelung für sehr große Online-Plattformen eingeführt. Diese systemischen Plattformen müssen potenzielle gesellschaftliche Risiken wie die Verbreitung von Desinformation analysieren und risikomindernde Maßnahmen ergreifen.
Diese Risikoanalyse- und Minderungsmaßnahmen werden unabhängigen Prüfungen unterzogen, um ihre Eignung zur Einhaltung des DSA zu beurteilen. Daher wird dieser Prüfungsprozess entscheidend dafür sein, wie Plattformen die neuen EU-Vorschriften interpretieren und sich daran anpassen.
Die Europäische Kommission hat einen Entwurf des delegierten Rechtsakts veröffentlicht, um die Methodik für solche unabhängigen Prüfungen festzulegen. Doch das Feedback von Wirtschaftsprüfungsgesellschaften, Technologieunternehmen und der Zivilgesellschaft weist auf mehrere kritische Punkte für dieses Neuland hin.
Wirtschaftsprüfer
Wirtschaftsprüfungsgesellschaften haben in ihren Rückmeldungen immer wieder auf das Fehlen von Industriestandards zur Prüfung der Algorithmen hingewiesen und die Kommission um zusätzliche Leitlinien zum „angemessenen Maß an Sicherheit“ gebeten, um den verschiedenen Verpflichtungen der DSA nachzukommen.
„Der wissenschaftliche Rahmen ist nicht vorhanden. Wir haben keine Antworten darauf, was dieses Gesetz erreichen soll. Wie definiert man ein systemisches Risiko? Wie misst man es?“ Adriana Iamnitchi, Professorin für Computational Social Sciences an der Universität Maastricht, sagte gegenüber EURACTIV.
Der Beratungsriese PwC schrieb in seiner Antwort: „Wenn man den Wirtschaftsprüfer zum Richter darüber macht, was Compliance ausmacht, wird dies wahrscheinlich zu Schwankungen führen und möglicherweise zu Meinungsverschiedenheiten unter den Interessengruppen darüber führen, wer die Messlatte auf das richtige Niveau gelegt hat und ob verschiedene Unternehmen fair behandelt werden.“
Das Feedback von PwC überschneidet sich mit dem von Deloitte und EY, großen Wirtschaftsprüfungsgesellschaften, die diesen Markt dominieren werden. Da Algorithmen-Audits relativ neu und technisch komplex sind, verfügen nur wenige Unternehmen über das Fachwissen für diese Aufgabe oder über die nötigen finanziellen Mittel, um die nötigen Talente zu gewinnen.
Plattformen
Angesichts der unterschiedlichen Arten von Plattformen, die Gegenstand der Prüfungen sein werden, von sozialen Medien bis hin zu Suchmaschinen, ist mit Inkonsistenzen und mangelnder Vergleichbarkeit zu rechnen.
Die Technologieunternehmen halten den delegierten Rechtsakt für zu präskriptiv, da er die Vielfalt der Anwendungsfälle nicht berücksichtigt und Prüfer nicht dazu verpflichtet, bei ihren Bewertungen verhältnismäßig zu sein.
„Der Nachteil der Einführung eines (übermäßig) präskriptiven Standards besteht darin, dass er die Wahlmöglichkeiten der Prüfer einschränkt und Prüfer dazu anregt, sich strikt an den Buchstaben des Gesetzes und nicht an seinen Geist zu halten“, heißt es in der Stellungnahme von Wikimedia.
In einem Punkt scheinen sich Prüfer und Plattformen einig zu sein, dass angesichts der Komplexität des DSA und der Neuartigkeit dieses Rahmens für das erste Jahr eine gewisse Flexibilität vorgesehen werden sollte.
Ein grundlegenderes Argument der digitalen Akteure ist jedoch, dass die Wirtschaftsprüfungsbranche möglicherweise nicht über die nötige Expertise verfügt, um das Innenleben der Plattformen zu beurteilen.
„Das zeigt uns das Paradoxon, in dem wir uns befinden. Viele undurchsichtige, datengesteuerte Unternehmen haben zu Komplexitäten geführt, die selbst für die Menschen, deren Aufgabe es ist, sie zu studieren, nämlich für Akademiker, unerreichbar sind“, sagte Catalina Goanta, außerordentliche Professorin für Recht und Technologie an der Universität Utrecht, gegenüber EURACTIV.
Zivilgesellschaft
Im Zentrum der Rückmeldungen von Vertretern der Zivilgesellschaft steht die Frage: Wer prüft die Prüfer?
In einer gemeinsamen Antwort wiesen die gemeinnützigen Organisationen Algorithm Watch und AI Forensic darauf hin, dass Wirtschaftsprüfungsgesellschaften einen Anreiz haben könnten, bei ihren Beurteilungen nachsichtig zu sein, um Aufträge anzuziehen und zu behalten.
Dieses „Audit-Washing“-Risiko verschärft sich in einem Kontext ohne objektive Standards. In der Zwischenzeit haben die geprüften Unternehmen ausreichend Ermessensspielraum, um die Informationen in den Berichten als vertraulich zu kennzeichnen und so ihre Veröffentlichung zu verhindern.
Für die Mitglieder der Zivilgesellschaft besteht die beste Möglichkeit, Prüfer und Plattformen unter Kontrolle zu halten, darin, geprüften Forschern Zugriff auf die vollständige Version der Prüfberichte zu gewähren. Nach dem DSA dürfen geprüfte Forscher Daten von Plattformen anfordern, ihre Rolle im Prüfmechanismus ist jedoch verfahrensrechtlich noch ungewiss.
Generell scheint auf Seiten der Zivilgesellschaft Skepsis darüber zu herrschen, ob große Wirtschaftsprüfungsgesellschaften in der Lage sind, systemische Risiken einzuschätzen, etwa welche Auswirkungen soziale Medien auf demokratische Prozesse haben könnten. Und es gibt bereits Akteure, die versuchen, diese Lücke zu füllen.
Eine davon ist Algorithm Audit, eine NGO, deren Aufgabe es ist, die Kriterien für algorithmische Audits ethisch zu bewerten und die Vor- und Nachteile unter bestimmten Umständen aufzuzeigen. Ihre Methodik wird „Algoprudenz“ genannt, eine Mischung aus Algorithmus und Rechtswissenschaft.
„Es wird einen kollektiven Lernprozess geben, der drei bis fünf Jahre dauern wird“, sagte Jurriaan Parie, Mitbegründer von Algorithm Audit, und fügte hinzu, dass viel davon abhängen wird, wie die Kommission und ihr neues Zentrum für algorithmische Transparenz mit Prüfern zusammenarbeiten, um Best Practices zu etablieren.
„Es ist ein Prozess. Am Anfang wird es nicht perfekt sein, aber irgendwo müssen wir anfangen. Die Frage ist, wer dem Aufmerksamkeit schenken wird“, schloss Professor Iamnitchi.
[Edited by Zoran Radosavljevic]
