Die EU-Gesetzgeber führten am Mittwoch (5. Oktober) ihre erste politische Debatte über das KI-Gesetz, als sich die Diskussion auf sensiblere Themen wie die heiß diskutierte Frage der biometrischen Erkennung verlagerte.
Das KI-Gesetz ist eine wegweisende EU-Gesetzgebung zur Regulierung der künstlichen Intelligenz, die eine Reihe von Verpflichtungen einführt, die proportional zum potenziellen Schaden der Anwendungen der Technologien sind.
Bisher haben die Ko-Berichterstatter des Europäischen Parlaments, der Sozialdemokrat Brando Benifei und der liberale Dragoș Tudorache, die Diskussion auf die eher technischen Aspekte beschränkt, in der Hoffnung, Dynamik aufzubauen, bevor die eher politischen Hürden angegangen werden.
Dieser Ansatz blieb nicht ohne Erfolg, da die Datei in mehreren Teilen fortschritt. Bei dem Treffen einigten sich die Abgeordneten formell auf die ersten beiden Pakete von Kompromissen zu Verwaltungsverfahren, Konformitätsbewertung, Standards und Zertifikaten.
Einige wesentliche Teile des dritten Pakets zu Verpflichtungen für Systeme mit hohem Risiko wurden ebenfalls gebilligt.
Der größte Teil des politischen Treffens am Mittwoch in Straßburg war jedoch hochsensiblen Themen gewidmet, wie dem Geltungsbereich der KI-Verordnung und den Einschränkungen bei der Verwendung biometrischer Erkennung, einer viel diskutierten Technologie, die es ermöglicht, eine Person anhand ihres Gesichts oder anderer zu identifizieren Charaktereigenschaften.
Biometrische Erkennung
Der leidenschaftlichste Teil der Debatte betraf erwartungsgemäß biometrische Erkennungssysteme. Im Vorfeld des Treffens teilte der Ko-Berichterstatter eine von EURACTIV eingesehene Tagesordnung mit, einschließlich einer vorgeschlagenen Neuformulierung des Artikels über verbotene Praktiken.
Im ersten Entwurf schlug die Europäische Kommission vor, unterschwellige Techniken, die Ausnutzung von Schwachstellen, soziale Bewertung und biometrische Echtzeit-Identifizierungssysteme zu verbieten.
Das letztgenannte Verbot hatte jedoch einige bemerkenswerte Ausnahmen, wenn es darum ging, Entführungsopfer zu identifizieren, unmittelbar drohende Bedrohungen wie Terroranschläge zu verhindern und kriminelle Verdächtige zu kennzeichnen.
Fortschrittliche Gesetzgeber und Organisationen der Zivilgesellschaft haben diesen Ansatz scharf kritisiert und behauptet, dass diese Ausnahmen die Tür zu einer allgemeineren Überwachung öffnen könnten. Die führenden Abgeordneten haben das jetzt schwarz auf weiß formuliert und die anderen verbotenen Praktiken unangetastet gelassen.
Der Artikel verbietet nun „das Inverkehrbringen oder Bereitstellen auf dem Markt, die Inbetriebnahme oder Verwendung von biometrischen Fernidentifikationssystemen, die in öffentlich oder privat zugänglichen Räumen sowohl offline als auch online verwendet werden oder verwendet werden können“.
Insbesondere entfernt der Text den Verweis auf Echtzeit und erweitert das Verbot auf die nachträgliche Identifizierung, was einige der umstrittensten Fälle betrifft, wie das Face-Scraping-Unternehmen Clearview AI.
Eine weitere wesentliche Erweiterung betrifft den privaten Bereich, wodurch klargestellt wird, dass das Verbot auch für den Online-Bereich gilt.
Während der Zweck der Vorgespräche gerade darin bestand, die Ansichten der Fraktionen offen zu legen, sagten zwei Vertreter des Europäischen Parlaments gegenüber EURACTIV, dass es offenbar eine klare Mehrheit für das Verbot gebe.
Das vollständige Verbot würde mit einer Resolution einhergehen, die im Oktober letzten Jahres angenommen wurde, als die Mitte-Rechts-Europäische Volkspartei (EVP) in ihren Forderungen, den Strafverfolgungsbehörden einen gewissen Spielraum bei der Verwendung dieser Instrumente zu geben, weitgehend isoliert war.
Zielfernrohr
Der Umfang des KI-Regelwerks ist ein weiteres sensibles Thema.
Die Ko-Berichterstatter schlugen eine Ausnahmeregelung für Behörden in Drittländern und internationale Organisationen vor, die die KI im Rahmen von Vereinbarungen über internationale Zusammenarbeit oder justizielle Zusammenarbeit verwenden und wenn sie von einem Beschluss über die Angemessenheit der Daten oder einer Vereinbarung über Grundrechte abgedeckt sind.
Dieser Kompromiss liegt irgendwo in der Mitte zwischen progressiven Abgeordneten, die strengere Grundrechtsgarantien fordern – die nicht unbedingt durch Entscheidungen zur Angemessenheit von Daten abgedeckt sind – und Mitte-Rechts-Gesetzgebern, die eine breitere Ausnahme für Drittländer befürworten.
Darüber hinaus schlugen die führenden Abgeordneten vor, dass die Verordnung die Datenschutzvorschriften der EU nicht berühren würde, einschließlich derjenigen in Bezug auf die Strafverfolgung, das europäische System für Verbraucherschutz und Produktsicherheit, das nationale Arbeitsrecht und reine Forschungs- und Entwicklungsaktivitäten (F&E).
Besonders diskutiert wurde die F&E-Freistellung. Laut einem Beamten liegt das Problem hier eher in der Formulierung, da niemand eine Lücke schaffen möchte.
Für einen zweiten Abgeordneten, zur Frage der Reichweite, gibt es die allgemeine Erkenntnis, dass jede Fraktion auf etwas verzichten muss. Daher muss der Text umfassend betrachtet werden.
KI-Datenbank
Der ursprüngliche Kommissionsentwurf enthielt eine Verpflichtung für die Anbieter von KI-Systemen, die am wahrscheinlichsten Schaden verursachen, in einer EU-Datenbank registriert zu werden.
In den Kompromissänderungsanträgen wurde vorgeschlagen, diese Verpflichtung auf Nutzer auszudehnen, die Behörden sind, und auf alle, die eine wesentliche Änderung am System vornehmen. Die EVP und die Grünen sind mit einer solchen Formulierung nicht einverstanden, aber jede Fraktion aus entgegengesetzten Gründen.
Dieser Artikel wurde bereits bei einem technischen Meeting Ende August diskutiert. Der Gesetzgeber hat es nicht geschafft, die neue Formulierung in der Sitzung am Mittwoch zu diskutieren, da die beiden anderen Themen die Debatte monopolisiert haben.
EURACTIV geht davon aus, dass Themen wie die Definition von Künstlicher Intelligenz, die Regeln für General Purpose AI und die Liste der Hochrisikosysteme nach Anhang III auch Gegenstand von Diskussionen auf politischer Ebene sein werden.
[Edited by Zoran Radosavljevic]