Die EU-Gesetzgeber in den führenden Ausschüssen des Europäischen Parlaments stimmen am 26. April über die politische Einigung zum KI-Gesetz ab, wobei viele Fragen geklärt, aber einige kritische Punkte noch offen sind.
Das KI-Gesetz ist ein wegweisender EU-Vorschlag zur Regulierung künstlicher Intelligenz auf der Grundlage ihres Schadenspotenzials. Das Europäische Parlament wird seine Position zu dem Dossier bis Mai fertigstellen, um in den sogenannten Trilogen schnell in Verhandlungen mit dem EU-Rat und der Kommission einzutreten.
Die Diskussionen über die KI-Verordnung haben aufgrund politischer Kämpfe im Parlament, die zu einer gemeinsamen Führung des Ausschusses für Binnenmarkt und Verbraucherschutz (IMCO) und des Ausschusses für bürgerliche Freiheiten (LIBE) führten, länger gedauert als erwartet.
Endlich nimmt ein „Paket“ des Gesamtvorschlags Gestalt an, obwohl noch einige wichtige Punkte zu regeln sind.
„Es ist ein heikles Gleichgewicht“, sagte ein Beamter des Europäischen Parlaments gegenüber EURACTIV.
Dieses Gleichgewicht könnte während der Plenarabstimmung im Mai in Frage gestellt werden, wenn einige alternative Änderungsanträge eingereicht werden könnten. Einige kritische Hürden müssen jedoch vollständig angegangen werden, bevor man dorthin gelangt.
Allzweck-KI
Technologische Entwicklungen wie der fulminante Aufstieg von ChatGPT spielten eine Rolle bei der Störung der Diskussionen zum KI-Gesetz, da die EU-Gesetzgeber sich bemühten, zu entscheiden, wie mit einer Technologie umgegangen werden soll, die sich mit halsbrecherischer Geschwindigkeit entwickelt und im ursprünglichen Vorschlag nicht enthalten ist.
Dies ist vielleicht die bedeutendste politische Frage, die noch offen ist. Ein potenzieller Kompromiss, der letzte Woche diskutiert wurde, bestand darin, Stiftungsmodellen wie ChatGPT strengere Verpflichtungen aufzuerlegen, insbesondere mit strengen Risiko- und Qualitätsmanagementanforderungen und externen Audits.
Die Mitte-Rechts-Partei drängt jedoch darauf, diese Anforderungen besser an die Besonderheiten dieser Technologie anzupassen. Unterdessen steuert das, was manche als „echte“ General Purpose AI (GPAI) bezeichnen, die an mehrere Zwecke angepasst werden kann, auf ein etwas leichteres Regime zu.
Diejenigen, die wesentliche Änderungen an den Modellen vornehmen, würden für die Einhaltung des KI-Regelwerks verantwortlich sein. Dennoch müssten GPAI-Anbieter diese Compliance-Bemühungen unterstützen, indem sie nicht kommerziell sensible Informationen bereitstellen.
KI-Definition
Die Definition der künstlichen Intelligenz war ein wichtiger politischer Wurf, da dies den eigentlichen Geltungsbereich der Gesetzgebung definiert. In einem deutlichen Zugeständnis an die Mitte-Rechts-Europäische Volkspartei (EVP) wurde die Definition an die der OECD angeglichen.
Verbotene Praktiken
Das KI-Gesetz verbietet einige technologische Anwendungen, die als unannehmbares Risiko angesehen werden, wie unterschwellige Techniken, die die Schwachstelle einer Person ausnutzen, obwohl in diesem Fall eine Ausnahme für therapeutische Zwecke eingeführt wurde.
Ein heißes Thema war der Umgang mit biometrischen Erkennungssystemen. Progressive Abgeordnete drängten auf ein vollständiges Verbot, während konservative Gesetzgeber diese Technologie für außergewöhnliche Umstände wie Terroranschläge und Entführungen verfügbar halten wollten.
Der Mittelweg wurde gefunden, indem die Verwendung von Echtzeit-Gesichtserkennungssoftware verboten, aber zugelassen wurde nachträglich als Hochrisikoanwendung. Allerdings dürfte dieser Deal während der Plenarsitzung auf den Prüfstand gestellt werden.
Auf Anfrage von linken bis mittleren Gesetzgebern wurde die Liste der verbotenen Praktiken erheblich erweitert, um biometrische Kategorisierung, prädiktive Polizeiarbeit und Gesichtserkennungsdatenbanken auf der Grundlage von wahllosem Scaping aufzunehmen, so das umstrittene Unternehmen Clearview AI.
Offen ist, ob mit einem medizinischen Carveout auch die Emotionserkennung verboten werden soll, ein Punkt, den sich die Mitte-Links-Partei im Rahmen des Pauschalangebots erhofft.
Das Verbot des Social Scoring wurde auf private Unternehmen ausgeweitet.
Kategorien mit hohem Risiko
KI-Anwendungen, bei denen ein erhebliches Schadensrisiko besteht, müssen einem strengen Regime entsprechen. Im ursprünglichen Vorschlag wurden alle KI-Modelle, die in bestimmte Anwendungsbereiche wie die Strafverfolgung fallen, automatisch als risikoreich eingestuft.
Dieser Automatismus wurde entfernt, da nur die KI-Modelle hinzugefügt wurden, die ein Risiko für die Gesundheit, Sicherheit und Grundrechte der Menschen darstellen. Diese Bestimmung wird von Gruppen wie den Grünen und der Linken entschieden abgelehnt, für die einige zusätzliche Schutzmaßnahmen hinzugefügt wurden.
Gleichzeitig erhielten fortschrittliche Abgeordnete eine breitere Liste von Anwendungen mit hohem Risiko, die sie auf biometrische Kategorisierung und Identifizierung, Deep Fakes und KI-generierten Text ausdehnten, es sei denn, es liegt eine redaktionelle Verantwortung vor.
Anwendungsfälle in den Bereichen Beschäftigung, Bildung, Migrationskontrolle und kritische Infrastruktur wurden erweitert.
Verpflichtungen mit hohem Risiko
Bei einem politischen Treffen am Mittwoch wurden wesentliche Änderungen der Pflichten für Hochrisikoanbieter vereinbart. Dazu gehören Risikomanagement- und Berichtspflichten, Transparenz über den ursprünglichen Zweck der Trainingsdatensätze, strengere Protokollierung und Transparenz über den Energieverbrauch des Modells.
Alle Benutzer von Systemen mit hohem Risiko müssen eine Folgenabschätzung durchführen, um ihre potenziellen Auswirkungen auf die Grundrechte der betroffenen Person zu berücksichtigen.
Darüber hinaus müssen sich Behörden und Technologieunternehmen, die nach dem Gesetz über digitale Märkte als Gatekeeper eingestuft sind und risikoreiche KI verwenden, zusammen mit allen anderen Nutzern, die sich freiwillig registrieren möchten, in einer EU-weiten öffentlichen Datenbank registrieren.
Durchsetzung und Governance
Das Kapitel zu Durchsetzung und Governance ist noch offen. Die Frage ist, ob das AI Office, eine neue EU-Einrichtung, eine rein koordinierende Rolle oder einige Durchsetzungsbefugnisse in grenzüberschreitenden Fällen haben wird, für die unklar ist, woher die Ressourcen kommen werden.
[Edited by Zoran Radosavljevic]