Der slowenische Ratsvorsitz hat einen Kompromisstext zum Entwurf des EU-KI-Gesetzes in Umlauf gebracht, der wesentliche Änderungen in den Bereichen Social Scoring, biometrische Erkennungssysteme und Hochrisikoanwendungen beinhaltet und gleichzeitig Diskussionspunkte für die Zukunft aufzeigt.
Die rotierende EU-Ratspräsidentschaft hat am Montag (29. November) einen ersten Kompromisstext zu einem Fortschrittsbericht zum EU-KI-Gesetz vorgelegt.
Geltungsbereich & Definitionen
In dem von EURACTIV eingesehenen Fortschrittsbericht bekräftigen die EU-Staaten ihre ausschließliche Zuständigkeit in Fragen der nationalen Sicherheit und bestehen darauf, dass ausschließlich für militärische Zwecke entwickelte KI-Systeme aus dem Geltungsbereich der Verordnung herausgenommen werden sollten.
Auch KI-Systeme, die ausschließlich zum Zwecke der wissenschaftlichen Forschung und Entwicklung entwickelt wurden, wurden vom Anwendungsbereich ausgenommen.
Die Präsidentschaft hat die Definition von KI-Systemen ausgearbeitet, um sie besser von klassischen Softwareprogrammen abzugrenzen. KI-Systeme gelten daher als in der Lage, Daten oder andere Arten von Eingaben zu verarbeiten, „um abzuleiten, wie man durch Lernen, Argumentieren oder Modellieren eine bestimmte Reihe von vom Menschen definierten Zielen erreicht“, heißt es in dem Kompromiss.
KI-Anbieter werden heute als Einzelpersonen oder Organisationen definiert, „die ein KI-System entwickelt haben und dieses System auf den Markt bringen oder in Betrieb nehmen“. Die Anbieter sind dafür verantwortlich, die Einhaltung der Anforderungen der Verordnung sicherzustellen.
Es wurde eine neue Kategorie von KI-Systemen für „allgemeine Zwecke“ hinzugefügt, die nicht in den Anwendungsbereich der Verordnung fallen, es sei denn, das System wird unter eine Marke gestellt oder in ein anderes der Verordnung unterliegendes System integriert.
Social-Scoring
Der Kommissionsvorschlag beinhaltete ein Verbot von KI-Anwendungen, die als mit inakzeptablen Risiken behaftet angesehen werden. Eine davon ist Social Scoring, eine in China initiierte Praxis, die als Förderung der Massenüberwachung angesehen wird.
Die Präsidentschaft schlägt nun vor, das Verbot von Social Scoring von öffentlichen Stellen auf private Einrichtungen auszudehnen. Darüber hinaus wurde die Definition der verbotenen Verwendung auch um die Ausnutzung einer „sozialen oder wirtschaftlichen Situation“ erweitert.
Diese Änderungen können weitreichende Auswirkungen auf den Finanzsektor haben, da beispielsweise die Zinssätze für Kredite derzeit auf der Grundlage der Rückzahlungswahrscheinlichkeit berechnet werden.
Auch der Einsatz von KI-Systemen zur Schätzung von Versicherungsprämien wurde als Hochrisikosystem aufgenommen.
Biometrische Erkennung
Die von den Rechtsvorschriften erfassten biometrischen Identifizierungssysteme werden nicht mehr als „entfernt“ definiert, sondern jedes System, das zur Identifizierung von Personen „ohne deren Zustimmung“ führt.
Die Möglichkeit, biometrische Identifikationssysteme in Echtzeit zu nutzen, wurde auf Akteure ausgeweitet, die keine Strafverfolgungsbehörden sind, aber mit ihnen zusammenarbeiten. Der Grund für den Einsatz dieser Systeme wurde erweitert, um kritische Infrastrukturen zu schützen.
Biometrische Systeme dürfen nur vor Genehmigung durch die Justizbehörde verwendet werden. In dringenden Fällen sah der ursprüngliche Vorschlag vor, dass die Genehmigung auch nachträglich beantragt werden könnte.
Im Gegensatz dazu muss die Zulassung nach dem neuen Wortlaut „während ihrer Nutzung unverzüglich beantragt und bei Ablehnung der Zulassung mit sofortiger Wirkung eingestellt werden“.
Hochrisikosysteme
Das KI-Gesetz führt spezifische Pflichten ein, die ein hohes Risiko für Gesundheit, Sicherheit und Grundrechte darstellen. Die Kommission hat in ihrem Vorschlag acht Hochrisikobereiche identifiziert, die nicht verändert, sondern künftig nur noch weiter definiert werden können.
Die bedeutendste Änderung in der Liste der Hochrisikosysteme ist die Aufnahme digitaler Infrastrukturen zum Schutz der Umwelt, insbesondere „KI-Systeme zur Kontrolle von Emissionen und Umweltverschmutzung“.
Im Bereich der Strafverfolgung wurde die Unterkategorie der Kriminalitätsanalyse entfernt.
Der Kompromisstext sieht vor, dass die Europäische Kommission die Liste der Hochrisikosysteme alle zwei Jahre zusammen mit der Liste der von der Verordnung abgedeckten KI-Techniken und -Ansätze überprüfen muss.
Offene Fragen
Der Fortschrittsbericht sieht eine Reihe von Bereichen vor, die voraussichtlich weiterer Diskussion bedürfen.
Die Anforderungen an Systeme mit hohem Risiko werden als vage hervorgehoben und erfordern praktische Anleitungen, um die Einhaltung der Geschäftsbedingungen zu erleichtern. Die aufgeführten Beispiele beziehen sich darauf, wie die Datenqualitäts- und Transparenzpflichten in der Praxis erfüllt werden könnten.
Darüber hinaus haben mehrere EU-Länder betont, dass die Anforderung vollständiger und fehlerfreier Datensätze weitgehend unrealistisch sein könnte. „Eine Reihe von Delegationen betonten, dass dies zwar so weit wie möglich der Fall sein sollte, aber keine absolute Voraussetzung sein sollte“, heißt es in dem Bericht.
Mehrere Mitgliedstaaten betonten zudem die Komplexität der Wertschöpfungskette, „wo die Grenzen zwischen verschiedenen Akteuren nicht immer klar abgegrenzt sind“. Infolgedessen muss möglicherweise die Verteilung der Verantwortlichkeiten neu bewertet werden, um die Realität von KI-Wertschöpfungsketten besser widerzuspiegeln.
Der übermäßige Verwaltungsaufwand für KMU war ein wiederkehrendes Thema in den Diskussionen, ein Thema, das auch beim letzten Gipfeltreffen der EU-Staatschefs angesprochen wurde.
Es wurden auch Bedenken hinsichtlich der Beziehung des KI-Gesetzes zu anderen EU-Rechtsvorschriften geäußert, um widersprüchliche Rechtsvorschriften zu vermeiden, insbesondere in Bezug auf Datenschutz, Strafverfolgung, Produktsicherheit und andere sektorale Rechtsvorschriften.
[Edited by Frédéric Simon]