Der EU-Ansatz für leistungsstarke KI-Modelle nimmt Gestalt an, während die europäischen Länder mögliche Zugeständnisse bei den bevorstehenden Verhandlungen über das weltweit erste umfassende Regelwerk für künstliche Intelligenz (KI) diskutieren.
Der spanische Vorsitz im EU-Ministerrat hat am Dienstag (17. Oktober) ein Dokument zur Vorbereitung der nächsten politischen Verhandlungen mit dem Europäischen Parlament und der Kommission am 24. Oktober, den sogenannten Trilogen, vorgelegt.
Das von Euractiv eingesehene Dokument beschreibt detailliert eine Reihe möglicher Angriffspunkte im AI Act, einem Flaggschiff-Gesetzvorschlag zur Regulierung von KI auf der Grundlage ihrer Fähigkeit, Schaden anzurichten. Die Kompromisse betreffen kritische Bereiche des Textes, einschließlich des Umgangs mit Basismodellen, großen Modellen des maschinellen Lernens, die auf riesigen Datensätzen trainiert werden und Antworten auf der Grundlage eines bestimmten Reizes generieren.
Grundlagenmodelle und Allzweck-KI
Ein zentraler Aspekt in den Diskussionen zum KI-Gesetz war die Frage, wie KI-Modelle reguliert werden können, die keinen bestimmten Zweck verfolgen. Nach dem kometenhaften Aufstieg von ChatGPT (unterstützt von OpenAIs GPT-3.5) wurde den Fundamentmodellen große öffentliche Aufmerksamkeit gewidmet.
Das Europäische Parlament hat als erstes vorgeschlagen, dass diese Art von KI-System, auf dem andere KI-Lösungen aufbauen können, einer bestimmten Regelung nach einem abgestuften Ansatz unterliegen sollte, eine Idee, die der Rat aufgegriffen hat.
Die Spanier führten eine mögliche Definition von Basismodellen als „KI-Modell ein, das in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen“. Sie schlugen vor, mithilfe von Durchführungsrechtsakten Benchmarks zur Bewertung dieser Fähigkeiten festzulegen.
Der vorgeschlagene Ansatz beinhaltet horizontale Transparenzpflichten für alle Stiftungsmodelle, insbesondere bei der Dokumentation des Modellierungs- und Trainingsprozesses und der Bewertung etablierter Benchmarks vor der Markteinführung.
Nach der Einführung auf dem EU-Markt müssten Stiftungsmodellanbieter den nachgelagerten Wirtschaftsakteuren Informationen und Dokumentation zur Verfügung stellen.
Die spanische Präsidentschaft plädiert außerdem für die Einführung einer neuen Kategorie, der „sehr leistungsfähigen Stiftungsmodelle“, die zusätzlichen Verpflichtungen unterliegen sollten, da ihre „Fähigkeiten über den aktuellen Stand der Technik hinausgehen und möglicherweise noch nicht vollständig verstanden werden“. “.
Auch hier wurde die Definition der Benchmarks zur Bezeichnung dieser Kategorie den Durchführungsgesetzen überlassen, die Spanier schlugen jedoch eine Möglichkeit vor, einen Schwellenwert für den für die Schulung verwendeten Rechenaufwand festzulegen, der eine ständige Aktualisierung erfordern würde.
Weitere erwähnte Metriken, die verwendet werden könnten, sind die im Training verbrauchten Daten und die potenziellen Auswirkungen auf Benutzer, insbesondere bei Hochrisikoanwendungen, die auf dem Modell basieren.
Diese sehr leistungsfähigen Stiftungsmodelle müssen sich regelmäßigen Überprüfungen durch externe Red Teams und Compliance-Kontrollen durch unabhängige Prüfer unterziehen und vor der Markteinführung ein Risikominderungssystem einrichten.
Eine dritte Kategorie, die Madrid sieht, sind Allzweck-KI-Systeme, die auf Basismodellen basieren und in großem Maßstab eingesetzt werden. Ein System wird in großem Maßstab eingesetzt, unabhängig davon, ob es mehr als 10.000 registrierte Geschäftsbenutzer oder 45 Millionen registrierte Endbenutzer hat, obwohl auch qualitative Überlegungen angebracht sind.
Für diese dritte Kategorie umfassen die Verpflichtungen regelmäßige externe Überprüfungen zur Aufdeckung von Schwachstellen und die Einrichtung eines Risikominderungssystems. Schließlich sollten alle Allzweck-KI-Anbieter angeben, ob ihr System für risikoreiche Zwecke eingesetzt werden kann, und entsprechend handeln.
Im Hinblick auf die heikle Urheberrechtsfrage möchte die Präsidentschaft, dass die Anbieter von Stiftungsmodellen nachweisen, dass sie angemessene Maßnahmen ergriffen haben, um sicherzustellen, dass ihr System im Einklang mit dem EU-Urheberrecht steht, insbesondere indem sie Rechteinhabern die Möglichkeit geben, sich dagegen zu entscheiden.
Bei generativen KI-Modellen möchte Spanien, dass die Anbieter sicherstellen, dass ihre Ergebnisse mit einer technischen Lösung, die effektiv und interoperabel ist und dem neuesten Stand der Technik entspricht, als künstlich erzeugt oder manipuliert erkennbar sind.
Führung
Im Gegensatz zum Europäischen Parlament überließen die EU-Mitgliedsstaaten die Durchsetzung des KI-Gesetzes zunächst weitgehend den nationalen Behörden. Wenn es jedoch um Grundlagenmodelle geht, „sind die Komplexität und Leistungsfähigkeit dieser Modelle und Systeme so groß, dass eine Zentralisierung des Fachwissens wichtig wäre“.
Infolgedessen hat die Präsidentschaft die vom Parlament eingeführte Idee eines KI-Büros akzeptiert, dessen ausdrückliche Aufgabe darin besteht, die neuen Regeln für die Basismodelle und allgemeinen KI-Systeme zu überwachen, die in großem Umfang zur Definition der Prüfungsverfahren und zur Durchführung von Compliance-Kontrollen eingesetzt werden und Untersuchungen.
Biometrische Identifizierung
Ein massiver Streit zwischen dem EU-Rat und dem Parlament betrifft den Einsatz biometrischer Echtzeit-Identifizierungssysteme durch die Strafverfolgungsbehörden. Die Abgeordneten drängen auf ein vollständiges Verbot, während die EU-Regierungen einige Ausnahmen gemäß dem ursprünglichen Kommissionstext beibehalten wollen.
Der vorgeschlagene Kompromiss schränkt die Ausnahmen weiter ein, indem er die Suche nach Opfern von Entführungen und Menschenhandel einschränkt, unmittelbare Bedrohungen wie Terroranschläge verhindert und nur die schwersten Verbrechen strafrechtlich verfolgt. Darüber hinaus werden zusätzliche Schutzmaßnahmen vorgeschlagen.
Die Abgeordneten führten die Verpflichtung ein, für den Einsatz biometrischer Identifikationssysteme nachträglich eine gerichtliche Genehmigung einzuholen. Hier möchte die Präsidentschaft die Genehmigungspflicht für allgemeine Erstkontrollen, nicht aber für gezielte Durchsuchungen aufheben.
Verbotene Praktiken
Das Mandat des EU-Parlaments umfasst das Verbot der Emotionserkennung in der Strafverfolgung, im Grenzmanagement, am Arbeitsplatz und in Bildungseinrichtungen. Für die Präsidentschaft müsste ein begrenztes Verbot in diesem Bereich Gruppenuntersuchungen ausschließen und bestimmte Ausnahmen, etwa aus Sicherheitsgründen, einschließen.
Alternativ schlägt Madrid vor, das Verbot am Arbeitsplatz und im Bildungswesen zu akzeptieren, aber die Strafverfolgung und das Grenzmanagement einzuschränken.
Die Abgeordneten verboten auch die biometrische Kategorisierung geschützter Daten wie religiöse Überzeugungen und politische Orientierungen, die Spanier wollten jedoch eine Ausnahmeregelung für die Strafverfolgung einführen.
Unterdessen drängen Parlamentarier auf ein Verbot der vorausschauenden Polizeiarbeit. Hier könnte es sich bei dem Zugeständnis um eine zusätzliche Formulierung im Rahmen des Verbots von Social-Scoring-Praktiken handeln.
Im Bereich der Grenzkontrolle möchte die spanische Präsidentschaft die Überprüfung der Echtheit von Reisedokumenten aus der Liste der risikoreichen Anwendungsfälle streichen.
Während die Spanier offenbar die Hochrisikoklassifizierung zur Erkennung von Personen bei Grenzschutzaktivitäten akzeptieren, wollen sie die Kategorisierung für die Vorhersage von Migrationstrends aufheben.
Strafverfolgung
Der EU-Rat hat wesentliche Ausnahmen im Bereich der Strafverfolgung eingeführt. Die Präsidentschaft schlägt vor, die Ausnahmeregelung für Polizeikräfte bei der Registrierung von Hochrisikosystemen in der öffentlichen Datenbank einzuschränken und einen Zeitplan für große IT-Systeme im Bereich Justiz und Inneres einzuführen, um sie an das KI-Gesetz anzupassen.
nationale Sicherheit
Während der EU-Rat die nationale Sicherheit aus dem Anwendungsbereich des KI-Gesetzes ausschloss, schlägt Spanien eine „ausgewogene Kompromissformulierung“ vor, die daran erinnert, dass dieser Bereich in der Verantwortung der Mitgliedstaaten liegt. Alternativ könnten flexiblere Formulierungen aus dem Datenschutzgesetz übernommen werden.
Anwendungsfälle mit hohem Risiko
Die Version des Europäischen Parlaments hat eine weit gefasste Vorstellung von biometrischen Identifikationssystemen, die in die Hochrisikokategorie fallen könnten. Im Gegensatz dazu befürchtet der Rat, dass eine zu weite Verbreitung auch Fälle erfassen würde, in denen sich die Person aktiv beteiligt, beispielsweise durch die Abgabe von Fingerabdrücken.
Die Präsidentschaft möchte die Emotionserkennung und die biometrische Kategorisierung in die Hochrisikokategorie aufnehmen und nicht ein vollständiges Verbot aussprechen. Als zusätzliche Schutzmaßnahme wird die Einführung eines Konformitätsbewertungsverfahrens durch Dritte vorgeschlagen.
[Edited by Nathalie Weatherald]
