Die beiden Ko-Berichterstatter des Europäischen Parlaments haben am Montag (11. April) den Berichtsentwurf zur künstlichen Intelligenz (KI) fertiggestellt und dargelegt, wo sie Gemeinsamkeiten gefunden haben. Die umstrittensten Themen wurden weiter nach unten verschoben.
Der Liberale Dragoș Tudorache und der Sozialdemokrat Brando Benifei haben die Diskussion über das KI-Gesetz für die Bürgerrechts- bzw. Verbraucherschutzausschüsse des Europäischen Parlaments angeführt.
„Es gibt Dinge, denen wir bereits zugestimmt haben und die in den Berichtsentwurf aufgenommen werden, und Dinge, bei denen wir glauben, dass wir uns einigen werden, aber weil wir jetzt noch keinen gemeinsamen Nenner gefunden haben, haben wir sie nicht in den Bericht aufgenommen “, sagte Tudorache.
„Unser Ansatz war es, diese Verordnung wirklich menschenzentriert zu gestalten“, sagte Benifei gegenüber EURACTIV. „Wir sind uns nicht in allem einig, aber wir haben einen wichtigen Schritt nach vorne gemacht.“
Breite Definition
Die beiden Gesetzgeber einigten sich darauf, die Definition von KI weit zu fassen und Carve-Outs für Allzweck-KI auszuschließen, Systeme, die für die Ausführung verschiedener Aufgaben trainiert werden können. Die Definition wurde weitgehend unverändert beibehalten, aber die Vorgabe, dass KI menschlich definierte Ziele verfolgen muss, wurde entfernt.
Verbotene Praktiken und Anwendungen mit hohem Risiko
Der Text fügte den verbotenen Praktiken vorausschauende Polizeiarbeit hinzu, „ein wichtiger Schritt, um hochgradig diskriminierende Praktiken anzugehen“, sagte Benifei.
Für Behörden enthält der Berichtsentwurf weitergehende Pflichten und Transparenzanforderungen bei der Verwendung von Hochrisikoanwendungen, einschließlich der Auflistung in einer EU-weiten Datenbank.
Die Liste der Hochrisikoanwendungen wurde um KI-Systeme zur Interaktion mit Kindern, medizinische Triage, Versicherungen, Deep Fakes und Algorithmen mit potenziellen Auswirkungen auf demokratische Prozesse erweitert, beispielsweise solche, die für Wahlkämpfe oder zur Auszählung elektronischer Stimmen verwendet werden.
Verantwortlichkeiten & Transparenz
„Der Text schafft eine bessere Klarheit über die Aufteilung der Verantwortlichkeiten zwischen Anbietern und Nutzern. Wenn Benutzer Änderungen an dem von einem Anbieter auf den Markt gebrachten Algorithmus vornehmen, löst dies bestimmte Verpflichtungen aus, die der Benutzer erfüllen muss“, sagte Tudorache.
Benifei betonte jedoch, dass der Berichtsentwurf nicht weit genug gehe und erwartete, dass in der Änderungsphase noch mehr getan werden müsse.
Governance & Durchsetzung
Der Ko-Berichterstatter stimmte einem zweistufigen Ansatz zu. Zusätzlich zur nationalen Ebene will der Gesetzgeber eine europäische Ebene für KI-Anwendungen hinzufügen, die tiefgreifende Auswirkungen auf die Verbraucher und weitreichende gesellschaftliche Auswirkungen haben könnten.
„Die Logik ist die gleiche wie bei der DSA“, erklärte Tudorache. „Bestimmte Teile des Antrags verbleiben bei den nationalen Behörden, aber in bestimmten Fällen, ausgelöst durch bestimmte Kriterien, tritt die Verantwortung für die Kommission ein.“
Während die führenden Abgeordneten beide die Rolle des European Artificial Intelligence Board stärken wollen, das alle zuständigen nationalen Behörden und die Kommission zusammenbringen wird, müssen sie noch klären, wie dies geschehen soll.
Fortschrittliche Gesetzgeber drängen darauf, dass eine neue EU-Agentur die Durchsetzung der Verordnung übernimmt. Benifei räumte jedoch ein, dass es dafür im Parlament keine klare Mehrheit gab.
Der Berichtsentwurf enthält eine Änderung zur Aufnahme von AI in die Verbandsklagenrichtlinie, die Verbrauchergruppen die Möglichkeit geben würde, Gerichtsverfahren einzuleiten.
Punkte der Divergenz
Bei der Konformitätsbewertung, dem Prozess, der zur Markteinführung neuer KI-Systeme führen wird, sind sich die beiden Gesetzgeber nicht einig.
Der ursprüngliche Vorschlag stützt sich weitgehend darauf, dass Unternehmen ihre Selbstbewertungen durchführen, aber Benifei ist der Ansicht, dass dies aus Sicht des Verbraucherschutzes und der Grundrechte zu riskant sein könnte. Tudorache will dagegen übermäßigen Verwaltungsaufwand für Unternehmen vermeiden.
Ein noch heikleres Thema sind biometrische Erkennungstechnologien, die die Kommission auf wenige begrenzte Fälle beschränken wollte, ein Ansatz, der von Tudorache und konservativen Gesetzgebern verteidigt wird. Umgekehrt wollen Benifei und Abgeordnete von links bis Mitte ein vollständiges Verbot und bestehen darauf, dass selbst begrenzte Ausnahmen Missbrauch Tür und Tor öffnen könnten.
Auch die Ausweitung des Verbots von Social-Scoring-Praktiken auf private Unternehmen stand auf dem Tisch, es wurde jedoch noch keine Einigung über den genauen Wortlaut gefunden. Ebenso wird in der Änderungsphase auch die biometrische Kategorisierung adressiert.
Ein weiterer Punkt, der nicht im Berichtsentwurf enthalten sein wird, betrifft die regulatorischen Sandboxen, einen Rahmen für das Experimentieren mit neuen KI-Anwendungen unter der Aufsicht einer Regulierungsbehörde. Konservative Abgeordnete wollen die Regulierungs-Sandboxen erweitern, und Tudorache ist entschlossen, sie nicht nur auf nationaler, sondern auch auf regionaler Ebene zu verwirklichen, um KMU besser zu erreichen.
Die beiden Gesetzgeber haben auch die Aufnahme einer Folgenabschätzung zu den Grundrechten diskutiert, aber Benifei möchte sie auf alle Benutzer anwenden, während Tudorache nur auf öffentliche Einrichtungen angewendet wird.
Zeitleiste
Der Berichtsentwurf soll am 11. Mai in den beiden parlamentarischen Ausschüssen beraten werden. Es ist geplant, dass die Ausschüsse am 26. oder 27. Oktober über den endgültigen Text abstimmen, der durch eine Abstimmung im Plenum am 9. November bestätigt wird.
Es könnten praktische Schwierigkeiten entstehen, eine gemeinsame Tagesordnung mit so vielen Beteiligten zu finden, insbesondere während des Sommers, ganz zu schweigen von möglichen Meinungsverschiedenheiten in hochpolitischen Punkten. Dennoch sagten beide Abgeordneten, sie seien optimistisch, dass das Parlament seine Position bis Ende des Jahres annehmen werde.
[Edited by Nathalie Weatherald]