Big-Tech-Firmen sind die ersten, die nach dem EU-Inhaltsrecht mit Geldstrafen rechnen müssen – POLITICO

Nach Jahren der lockeren Regulierung könnten Technologieriesen wie Meta, X (ehemals Twitter), TikTok und Google in der Europäischen Union bald mit Ermittlungen – und hohen Geldstrafen – rechnen, wenn sie nicht ausreichend gegen giftige Inhalte vorgehen.

Die Europäische Kommission wird bereits am Freitag befugt sein, einige der beliebtesten Social-Media- und E-Commerce-Plattformen zu untersuchen und mit Geldstrafen von bis zu 6 Prozent ihres weltweiten Jahresumsatzes zu belegen, wenn sie den Digital Services Act (DSA) nicht einhalten. . In Ausnahmefällen könnte die Kommission ein Technologieunternehmen auch vorübergehend verbieten.

Insgesamt 19 Unternehmen hatten bis Ende August Zeit, den weitreichenden Verpflichtungen des EU-Gesetzes zur Inhaltsmoderation nachzukommen. Doch einige digitale Unternehmen haben im Laufe der Zeit bereits die Aufmerksamkeit der Kommission auf sich gezogen und lösten Gegenreaktionen von NGOs, Politikern und der breiten Öffentlichkeit wegen der Art und Weise aus, wie sie ihre weit verbreiteten Plattformen verwalteten.

Hier sind einige der Technologieunternehmen, die im Visier der Europäischen Kommission stehen könnten:

1. X (ehemals Twitter)

Da über 112 Millionen Europäer – darunter hochkarätige Politiker, Experten und Journalisten – die Plattform nach Nachrichten und zum Gedankenaustausch absuchten, war Twitter – jetzt X – seit langem als wichtiges Netzwerk im Visier der Kommission.

Doch der selbsternannte „Absolutist der freien Meinungsäußerung“ Elon Musk hat dem Unternehmen nach seinem Kauf des Netzwerks im Jahr 2022 mit einer Reihe scheinbar chaotischer und kontroverser Entscheidungen ein Ziel auf den Kopf gestellt.

Im Mai verließ das Unternehmen die freiwillige Charta der EU zur Bekämpfung von Desinformation, nachdem es Schwierigkeiten hatte, deren Standards einzuhalten. Der Schritt löste in den höchsten Rängen der Kommission und von EU-Ländern wie Frankreich scharfe Verurteilung aus.

„Man kann fliehen, aber man kann sich nicht verstecken“, sagte Binnenmarktkommissar Thierry Breton, der die Direktion der Kommission für die Durchsetzung des DSA leitet, als Reaktion auf den Ausstieg des Unternehmens aus der Charta.

Um die Bedenken auszuräumen, hat Musk wiederholt versprochen, die DSA zu respektieren, und das Unternehmen hat sich freiwillig bereit erklärt, seine Geschäftstätigkeit im Juli vor Ablauf der schicksalhaften Compliance-Frist in einem sogenannten Stresstest unter die Lupe zu nehmen. Es bleibt jedoch unklar, wie es X ergehen wird, nachdem es den größten Teil seines Personals entlassen hat, das sich auf die Moderation von Inhalten spezialisiert hatte.

2. Meta: Instagram und Facebook

Brüssel steckte im September 2021 noch mitten in der Änderung seines Inhaltsregelwerks, als Facebook-Whistleblowerin Frances Haugen darüber sprach, dass ihr ehemaliges Unternehmen Warnungen vor der Verbreitung unsicherer Inhalte auf der Plattform und ihrem Schwesternetzwerk Instagram wiederholt zurückgewiesen hatte.

Während Facebook die Anschuldigungen zurückwies, beriet Haugen das Europäische Parlament und die Kommission über Regeln zur Überwachung der Algorithmen von Social-Media-Unternehmen, die durch Tausende interne Dokumente gestützt wurden.

Da etwa die Hälfte der Europäer Instagram und Facebook nutzen (257 Millionen bzw. 258 Millionen monatliche EU-Nutzer), werden die beiden Plattformen wahrscheinlich sowohl von Aufsichtsbehörden als auch von Forschern unter dem Druck von Kinderrechten und Verbrauchergruppen einer strengen Prüfung ausgesetzt sein.

Breton hatte Meta bereits zuvor wegen angeblicher Schädigung von Kindern und unzureichendem Umgang mit Fehlinformationen im Zusammenhang mit Wahlen kritisiert.

Untersuchungen im Juni, die zeigten, dass Instagram ein riesiges Netzwerk von Konten, die Material über sexuellen Kindesmissbrauch fördern und kaufen, auf seiner Plattform operieren ließ, veranlassten den französischen Kommissar, CEO Mark Zuckerberg anzurufen, um „eine Erklärung“ zu geben [and] ergreifen Sie sofort Maßnahmen.“

Aber Meta verfügt über die Ressourcen, um Personal einzustellen, sowie über jahrelange Erfahrung im Umgang mit Regulierungsbehörden auf der ganzen Welt und in der Anfechtung von Entscheidungen vor Gerichten. Das Unternehmen gab an, über tausend Mitarbeiter damit beauftragt zu haben, sich auf die DSA-Compliance vorzubereiten.

3. TikTok

Anfang des Jahres sah sich TikTok mit einer Welle staatlicher Beschränkungen konfrontiert, da befürchtet wurde, dass die chinesische Regierung auf die Datenbestände westlicher Nutzer zugreifen könnte. Die Besorgnis über den möglichen Einfluss Pekings auf die App, die dem in China ansässigen Unternehmen ByteDance gehört, veranlasste einige Gesetzgeber auch dazu, die DSA mit der Anwendung zu beginnen, damit Regulierungsbehörden und Forscher die Algorithmen von TikTok untersuchen könnten.

Während TikTok die Anschuldigungen zurückwies und eine Charmeoffensive startete, um Bedenken hinsichtlich seiner Verbindung zu China zu zerstreuen, bleibt die App weiterhin am Haken, weil sie die Verbreitung schädlicher Inhalte auf ihrer Plattform unzureichend bekämpft.

Breton kritisierte zuvor die „inakzeptablen“ Praktiken des Unternehmens und stellte fest, dass Benutzer nur „Sekunden brauchen, um auf schädliche und manchmal sogar lebensbedrohliche Inhalte zuzugreifen“.

Die App wurde in den letzten Jahren von mehreren nationalen Verbraucher- und Datenschutzbehörden kritisiert, da sie sich Sorgen über die Gefahren machten, die sie ihrer Meinung nach für Jugendliche mit sich bringt, etwa tödliche virale Herausforderungen.

Breton sagte Mitte Juli, dass die Plattform – die über 134 Millionen Nutzer in der EU hat – ihre Arbeit „beschleunigen“ müsse, um nach einem freiwilligen Stresstest rechtzeitig mit dem DSA konform zu sein. Er fügte hinzu, dass das Unternehmen jedoch „ein ernsthaftes Engagement für die DSA“ zeige.

TikTok gab Anfang August bekannt, dass es einige der DSA-Verpflichtungen, einschließlich der Entfernung gezielter Werbung für jugendliche Nutzer, vor Ablauf der Frist einhält. Die Plattform wurde auch als offener für den Austausch von Informationen über ihre Moderationsarbeit angesehen.

4. Snapchat

Die in den USA ansässige App, die für ihre verschwindenden Bilder bekannt ist, hat nicht so viel öffentliche Aufmerksamkeit erregt wie andere Social-Media-Plattformen, aber ihre Beliebtheit bei Kindern und Jugendlichen wird sie wahrscheinlich zu einem interessanten Fall für die Kommission machen.

Das Unternehmen, das in der EU über 100 Millionen Nutzer zählt, hatte offenbar Mühe, minderjährige Nutzer von seiner Plattform fernzuhalten und Kinder vor Sexualstraftätern zu schützen.

Die geschäftsführende Vizepräsidentin der Kommission, Margrethe Vestager, warnte das Unternehmen kürzlich vor dem KI-Chatbot der sozialen Medien, der von ChatGPT betrieben wird.

„Wenn Sie die jüngsten Beispiele dieses KI-Freundes in Snapchat gesehen haben, werden Sie sehen, dass es, gelinde gesagt, Raum für Verbesserungen gibt“, sagte Vestager im Mai und betonte, dass „es anscheinend nicht viel braucht.“ [tweaking] um Ratschläge zu Selbstverletzungen oder sexuellen Praktiken zu erhalten.“

Auch die britische Plattformaufsichtsbehörde Ofcom stellte kürzlich fest, dass die Geschäftsbedingungen von Plattformen wie Snapchat „undurchdringlich“ seien.

Snapchat durchlief einen freiwilligen Test, um sich auf die Einhaltung der Vorschriften vorzubereiten, und erklärte, es sei bereit. Das Unternehmen fügte hinzu, dass es Sicherheitsvorkehrungen für seinen KI-Chatbot getroffen habe, einschließlich der Programmierung, um unangemessene und schädliche Reaktionen zu vermeiden.

5. Google: YouTube, Suche, Play Store, Google Maps und Shopping

Google steht hinter vielen der weltweit beliebtesten Plattformen, darunter YouTube mit 417 Millionen EU-Nutzern, Google Maps (276 Millionen EU-Nutzer) und dem Play Store (285 Millionen EU-Nutzer). Auch die Google-Suche ist mit 364 Millionen EU-Nutzern Marktführer.

Google wird im Vergleich zu YouTube, das zuvor darum gekämpft hat, die Verbreitung von Desinformation einzudämmen, wahrscheinlich einer stärkeren Prüfung ausgesetzt sein. Die Plattform wurde von einigen Faktenprüfungsorganisationen dafür kritisiert, dass sie Unwahrheiten nicht kennzeichnet, und der Algorithmus von YouTube wurde beschuldigt, gewalttätige Videos und Verschwörungstheorien zu verstärken und Benutzer zu extremeren Inhalten zu drängen.

Die nahezu konkurrenzlose Leistungsfähigkeit der Google-Suche und Google Maps bei der Verbreitung und Einstufung von Informationen bedeutet, dass potenzielle Fehltritte beim Umgang mit illegalen und schädlichen Inhalten erhebliche Auswirkungen haben könnten. Regulierungsbehörden und Forscher werden wahrscheinlich auch ein Auge darauf haben, wie Google seine Tools für künstliche Intelligenz, wie seinen Chatbot Bard, auf seinen Plattformen und in seiner Suchmaschine einsetzt und ob es diskriminierende Ergebnisse fördert.

Google ist an vielen freiwilligen Chartas der EU zur Bekämpfung von Desinformation und Online-Hassrede beteiligt und hat seine DSA-Vorbereitung intensiviert, einschließlich der Eröffnung eines „Transparenzzentrums“ Mitte August.

6. Amazon und Zalando

Der in den USA ansässige Online-Marktplatz und der europäische Modehändler klagen vor Gericht gegen die Kommission: Beide Unternehmen argumentieren, dass sie nicht als sehr große Online-Plattformen eingestuft werden sollten – und mit den daraus resultierenden zusätzlichen Verpflichtungen rechnen müssten.

Amazon mit seinen 181 Millionen Nutzern in der EU gab an, im Vergleich zu anderen großen Einzelhändlern zu Unrecht ausgegrenzt worden zu sein. Doch die Herausforderung überraschte nicht nur viele; Es zog auch den Zorn von Verbraucherorganisationen auf sich, die in den vergangenen Jahren die Aufsichtsbehörden auf die illegalen und gefährlichen Produkte aufmerksam gemacht hatten, die auf der Plattform verfügbar waren. Es wurde auch schon früher festgestellt, dass das Unternehmen Geld mit gefälschten Waren und Büchern verdient, die Verschwörungstheorien und Fehlinformationen verbreiten.

Amazon sagte, es sei bereit, dem DSA nachzukommen und warte auf die endgültigen Entscheidungen des EU-Gerichtshofs in Luxemburg.

Es sei unwahrscheinlich, dass Zalando als relativ unumstrittene europäische Mode-Website zu den Hauptzielen der Kommission gehöre, doch die Kommission habe die Zahl ihrer Nutzer falsch eingeschätzt, da ein großer Teil ihrer Einnahmen aus dem Direktverkauf kuratierter Produkte an Verbraucher als Einzelhändler bestehe. Das deutsche Unternehmen gibt an, dass nur 31 Millionen europäische Besucher die Plattform nutzen. Zalando gab an, aufgrund seines Modells „kein Risiko illegaler Inhalte“ zu haben, werde aber die notwendigen Änderungen einführen, um rechtzeitig für die DSA konform zu sein.

Vermisst?

Mehrere andere Plattformen gaben an, weniger als 45 Millionen Nutzer zu haben, was bedeutet, dass sie nicht prüfen und Abhilfemaßnahmen ergreifen müssen, wie sie die Verbreitung schädlicher Inhalte im Rahmen des DSA begrenzen.

Spotify hat die Anzahl der in der EU ansässigen Nutzer nicht bekannt gegeben und lediglich erklärt, dass es sich nicht um eine sehr große Online-Plattform handele. Nationale Regulierungsbehörden für audiovisuelle Medien hatten zuvor gehofft, mithilfe des DSA sicherstellen zu können, dass die schwedische Plattform die Weitergabe potenzieller Fehlinformationen durch Lieder und Podcasts einschränkt.

Die Pornoplattformen Pornhub und YouPorn zählen in vielen europäischen Ländern regelmäßig zu den meistbesuchten Websites – sie meldeten jedoch nur 33 Millionen bzw. 7 Millionen digitale Besucher im Block. Die Unternehmen stehen regelmäßig im Fadenkreuz von Regulierungsbehörden und Strafverfolgungsbehörden auf der ganzen Welt, weil sie illegale und gewalttätige Inhalte wie Vergewaltigung und sexuellen Missbrauch von Kindern hosten.

Trotz über 700 Millionen aktiven Nutzern pro Monat zählt Telegram, das regelmäßig von rechtsextremen Gruppen zum Organisieren und Teilen hasserfüllter Inhalte genutzt wird, auf seiner Plattformseite nur 38,5 Millionen europäische Nutzer.

Die Kommission arbeitet seit Mai daran, bis zu fünf weitere unbekannte sehr große Online-Plattformen zu benennen. „Die Gespräche zwischen der Kommission und mehreren Plattformen über eine mögliche Benennung dauern an“, sagte ein Sprecher der Kommission.