Die spanische EU-Ratspräsidentschaft hat die Mitgliedsstaaten im Vorfeld eines entscheidenden politischen Treffens zum KI-Gesetz um Flexibilität im sensiblen Bereich der Strafverfolgung gebeten.
Das KI-Gesetz ist ein Flaggschiff-Gesetz zur Regulierung künstlicher Intelligenz auf der Grundlage ihrer Fähigkeit, Schaden anzurichten, und befindet sich derzeit in der letzten Phase des Gesetzgebungsverfahrens, wobei EU-Kommission, Rat und Parlament in sogenannten Trilogen über die endgültigen Bestimmungen verhandeln.
Die politischen Entscheidungsträger der EU sind darauf bedacht, beim Trilog am 6. Dezember eine endgültige Einigung zu erzielen. Vor dieser wichtigen Ernennung benötigt die spanische Präsidentschaft, die im Namen der europäischen Regierungen verhandelt, ein überarbeitetes Verhandlungsmandat.
Am Freitag (24. November) verteilte die Präsidentschaft die erste Hälfte des Verhandlungsmandats, forderte Flexibilität und wies auf mögliche Landezonen im Bereich der Strafverfolgung hin. Am Mittwoch soll das Mandat auf dem Schreibtisch des Ausschusses der Ständigen Vertreter (AStV) landen.
In der zweiten Hälfte des Mandats geht es um Stiftungsmodelle, Governance, Zugang zum Quellcode, das Sanktionsregime, das Inkrafttreten der Verordnung und Sekundärrecht. Es wird am Freitag (1. Dezember) auf der Ebene des AStV erörtert.
Verbote
Die Abgeordneten haben die Liste der verbotenen Praktiken deutlich erweitert – KI-Anwendungen, bei denen davon ausgegangen wird, dass sie ein inakzeptables Risikoniveau bergen.
Die Präsidentschaft schlägt vor, die Verbote des ungezielten Ausschneidens von Gesichtsbildern, der Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, der biometrischen Kategorisierung zur Rückleitung sensibler Daten wie sexueller Orientierung und religiöser Überzeugungen sowie der vorausschauenden Polizeiarbeit für Einzelpersonen zu akzeptieren.
Darüber hinaus schlägt die Präsidentschaft „im Geiste des Kompromisses“ vor, die nicht akzeptierten Verbote des EU-Parlaments in die Liste der Hochrisiko-Anwendungsfälle aufzunehmen, nämlich alle anderen Anwendungen der biometrischen Kategorisierung und Emotionserkennung.
Was die biometrische Fernidentifizierung anbelangt, einigten sich die Parlamentarier darauf, das vollständige Verbot der Echtzeitnutzung aufzuheben und im Gegenzug die außergewöhnliche Nutzung einzuschränken und mehr Schutzmaßnahmen einzuführen. Für die Präsidentschaft gilt der nachträgliche Einsatz dieser Technologie als hochriskant.
Ausnahmen für die Strafverfolgung
Das Mandat des Rates umfasst mehrere Ausnahmeregelungen für die Strafverfolgung, KI-Tools einzusetzen. Die Präsidentschaft stellt fest, dass es ihr gelungen sei, „fast alle davon zu behalten“.
Dazu gehören eine flexiblere Gestaltung des Textes für Polizeikräfte in Bezug auf die Verpflichtung zur menschlichen Aufsicht, die Meldung riskanter Systeme, die Überwachung nach dem Inverkehrbringen und Vertraulichkeitsmaßnahmen, um die Offenlegung sensibler Betriebsdaten zu vermeiden.
Die Präsidentschaft möchte außerdem, dass die Strafverfolgungsbehörden Software zur Emotionserkennung und biometrischen Kategorisierung nutzen können, ohne die Probanden zu informieren.
Das Europäische Parlament forderte, dass die Polizei die Hochrisikosysteme in der EU-Datenbank, jedoch in einem nichtöffentlichen Bereich, registrieren sollte. Als Frist für die Einhaltung der Verpflichtungen des KI-Gesetzes durch große IT-Systeme wurde das Jahr 2030 festgelegt.
Ausnahme für die nationale Sicherheit
Frankreich drängt auf eine weitreichende Ausnahmeregelung für die nationale Sicherheit im KI-Gesetz. Gleichzeitig stellte die Präsidentschaft fest, dass das EU-Parlament „keine Flexibilität“ gezeigt habe, als es den Wortlaut des Ratsmandats akzeptierte.
Spanien schlägt vor, diese Bestimmung in zwei Absätze aufzuteilen. In der ersten heißt es, dass die Verordnung nicht für Bereiche gilt, die außerhalb des EU-Rechts liegen, und dass sie in keinem Fall die Zuständigkeiten der Mitgliedstaaten im Bereich der nationalen Sicherheit oder der mit Aufgaben in diesem Bereich betrauten Stellen beeinträchtigen sollte.
Zweitens heißt es im Text, dass das KI-Gesetz nicht für Systeme gelten würde, die für verteidigungs- und militärbezogene Tätigkeiten auf den Markt gebracht oder in Betrieb genommen werden.
Folgenabschätzung der Grundrechte
Die Abgeordneten der Mitte-Links-Fraktion stellten die Folgenabschätzung für die Grundrechte als neue Verpflichtung vor, die von Nutzern risikoreicher Systeme vor deren Einsatz durchgeführt werden müsste. Für die Präsidentschaft sei es „unbedingt notwendig“, sie einzubeziehen, um eine Einigung mit dem Parlament zu erzielen.
Ein Knackpunkt bei diesem Thema war der Anwendungsbereich: Parlamentarier forderten alle Nutzer und EU-Länder drängten darauf, die Bereitstellung auf öffentliche Einrichtungen zu beschränken. Der Kompromiss bestand darin, öffentliche Einrichtungen und nur private Akteure abzudecken, die Dienstleistungen von allgemeinem Interesse erbringen.
Darüber hinaus müsste die Folgenabschätzung zu den Grundrechten Aspekte abdecken, die nicht bereits durch andere rechtliche Verpflichtungen abgedeckt sind, um Überschneidungen zu vermeiden.
Hinsichtlich der Pflichten zum Risikomanagement, zur Datenverwaltung und zur Transparenz müssen die Nutzer lediglich überprüfen, ob der Anbieter des Hochrisikosystems diese eingehalten hat.
Für die Präsidentschaft sollte die Verpflichtung zur Durchführung einer sechswöchigen Konsultation auch für öffentliche Stellen abgeschafft und durch eine einfache Mitteilung an die zuständige nationale Behörde ersetzt werden.
Tests unter realen Bedingungen
Ein Streitpunkt in den Verhandlungen war die vom Rat eingeführte Möglichkeit, hochriskante KI-Systeme außerhalb regulatorischer Sandboxen zu testen. Dem Vermerk des Vorsitzes zufolge wurden einige Schutzmaßnahmen aufgenommen, um die Maßnahme für das Parlament akzeptabel zu machen.
Der Text weist darauf hin, dass die Personen, die dem Test unterzogen werden, ihre Einwilligung nach Aufklärung geben sollten und dass, wenn es bei Strafverfolgungsmaßnahmen nicht möglich ist, um Zustimmung zu bitten, der Test und sein Ergebnis keine negativen Auswirkungen auf die beteiligten Personen haben dürfen.
Ausnahme von der Konformitätsbewertung
Der Rat hat ein Notfallverfahren eingeführt, das es Strafverfolgungsbehörden ermöglicht, in dringenden Fällen ein KI-Tool mit hohem Risiko einzusetzen, das das Konformitätsbewertungsverfahren noch nicht bestanden hat.
Die Abgeordneten wollen, dass dieser Prozess einer gerichtlichen Genehmigung unterliegt, ein Punkt, den die Präsidentschaft für die EU-Länder inakzeptabel hält. Als Kompromiss schlugen die Spanier vor, den Mechanismus wieder einzuführen und der Kommission die Möglichkeit zu geben, die Entscheidung zu überprüfen.
