Der Irish Council for Civil Liberties schickte am Donnerstag (14. Dezember) einen Bericht an die Europäische Kommission und forderte sie auf, den Schritten der irischen Medienregulierungsbehörde zu folgen und die algorithmischen Empfehlungssysteme großer Technologieunternehmen abzuschalten.
Empfehlungssysteme sind das Innenleben digitaler Plattformen, die bestimmen, welche Inhalte Benutzer sehen. In den meisten Fällen verwenden diese Systeme Algorithmen, die das Benutzererlebnis auf der Grundlage personenbezogener Daten anpassen.
Große Social-Media-Plattformen nutzen Daten wie den Suchverlauf oder vergangene Käufe des Nutzers, aber auch Standort, Alter und das verwendete Gerät, um ein Profil zu erstellen, was häufig durch den Verkauf von Werbeflächen an Drittwerbetreibende monetarisiert wird.
Irlands neue Rundfunk- und Online-Regulierungsbehörde, Coimisiún na Meán, hat einen Entwurf eines verbindlichen Kodex veröffentlicht, der Video-Sharing-Plattformen wie TikTok und YouTube verpflichtet, die Verwendung von Empfehlungssystemen, die auf einer umfassenden Benutzerprofilierung basieren, automatisch einzustellen.
Darüber hinaus müssten diese Unternehmen aufhören, Profile von Nutzern zu erstellen, deren Alter nicht bestätigt ist oder die Kinder sind.
„Coimisiún na Meán ist weltweit führend, indem es Big Tech dazu zwingt, seine toxischen Algorithmen abzuschalten. Menschen – nicht die Algorithmen von Big Tech – sollten entscheiden, was sie online sehen und teilen“, sagte Johnny Ryan, Senior Fellow des Irish Council for Civil Liberties (ICCL).
„Die Europäische Kommission sollte aus dem Beispiel von Coimisiún na Meán lernen und jedem in Europa die Freiheit geben, zu entscheiden“, fügte er hinzu.
Der Hauptgrund für den Entwurf des Online-Sicherheitskodex der irischen Regulierungsbehörde besteht darin, dass Empfehlungssysteme nicht nur Produkte, sondern auch Online-Inhalte bewerten. Die Tatsache, dass der Vorschlag aus Irland kommt, ist besonders relevant, da die meisten Big-Tech-Unternehmen dort ihren europäischen Hauptsitz haben.
Da die Plattformen durch Werbung von der Aufmerksamkeit der Nutzer profitieren, neigen Empfehlungssysteme dazu, das Engagement zu maximieren, was zur Förderung extremistischer oder schädlicher Inhalte führen kann, die zu Gewalt in der realen Welt führen können, wie es bei den Unruhen in Dublin vor drei Wochen der Fall war.
Den Erkenntnissen von Amnesty International vom November zufolge tauchten in ihrem Feed „mehrere empfohlene Videos in einer einzigen Stunde auf, die Selbstmord romantisierten, normalisierten oder dazu ermutigten“, als ihre Forscher das Profil eines 13-jährigen Benutzers auf TikTok nachahmten und sich Videos zu psychischen Problemen ansahen .
Weitere Beispiele sind der Beitritt extremistischer Gruppen zu Meta-Plattformen aufgrund des Empfehlungssystems, ein Bericht der Europäischen Kommission über Empfehlungssysteme großer Technologieunternehmen, die Russlands Desinformation über den Ukraine-Krieg unterstützen, oder eine Mozilla-Studie über YouTube, die vor allem aufgrund des Empfehlungssystems problematische Inhalte zeigt .
Gemäß dem Kodex von Coimisiún na Meán müssen Anbieter von Video-Sharing-Plattformdiensten bei der Erstellung eines Sicherheitsplans für Empfehlungssysteme mehrere Maßnahmen ergreifen.
Zu den Maßnahmen gehört die Sicherstellung, „dass auf Profiling basierende Empfehlungsalgorithmen standardmäßig deaktiviert sind“ und Maßnahmen, die sicherstellen sollen, dass „diese Aspekte bei Algorithmen deaktiviert sein sollten, die sich explizit oder implizit mit Daten spezieller Kategorien wie politischen Ansichten, Sexualität, Religion, ethnischer Zugehörigkeit oder Gesundheit befassen.“ standardmäßig.”
Dies ist wichtig, denn während beispielsweise iOS-Benutzer über Apples App Tracking Transparency entscheiden können, welche App auf ihre Daten zugreifen darf, ändern die meisten Benutzer ihre Standardeinstellungen selten oder nie.
Coimisiún na Meán veröffentlichte am vergangenen Freitag (8. Dezember) eine „Konsultation zu verbindlichen Regeln für Video-Sharing-Plattformen, um die Sicherheit von Erwachsenen und Kindern im Internet zu gewährleisten“, die bis zum 19. Januar 2024 läuft.
Der Kodex zielt darauf ab, Kinder im Internet zu schützen, nicht nur durch das Verbot von Profiling, sondern beispielsweise auch durch die Bekämpfung von Cybermobbing.
Der irische Online-Sicherheitskommissar Niamh Hodnett sagte, man werde „die Genehmigung der Europäischen Kommission zur Umsetzung des Kodex einholen“. Die Kommission muss das irische Gesetz überprüfen, um festzustellen, ob eine Unvereinbarkeit mit der EU-Gesetzgebung besteht.
Im Falle eines Gesetzesverstoßes kann die irische Regulierungsbehörde Geldstrafen von bis zu 20 Millionen Euro verhängen, sobald der Kodex fertiggestellt und bindend ist.
Euractiv hat Meta, YouTube und TikTok um einen Kommentar gebeten. Letzterer lehnte eine Antwort ab, während Meta und YouTube zum Zeitpunkt der Veröffentlichung keine Antwort gaben.
[Edited by Luca Bertuzzi/Zoran Radosavljevic]
