Der Gesetzgeber, der die Diskussionen über das KI-Gesetz anführte, schlug laut Dokumenten, die EURACTIV vorliegen, einen Kompromiss zu den Verpflichtungen für KI-Systeme mit hohem Risiko und eine Konsolidierung des bisherigen Textes vor.
Die Ko-Berichterstatter Brando Benifei und Dragoș Tudorache haben letzte Woche neue Kompromissänderungsanträge verteilt, die am Dienstag (30. August) bei einem technischen Treffen diskutiert werden sollen. Die führenden Abgeordneten haben bisher versucht, den am wenigsten umstrittenen Teil des Textes voranzutreiben, um einige Fortschritte zu erzielen, bevor sie sich mit den umstrittensten Aspekten des Vorschlags befassen.
Die Strategie scheint sich ausgezahlt zu haben, denn die bisherigen Kompromissänderungsanträge wurden mit nur geringfügigen Änderungen beibehalten. Gleichzeitig haben die Ko-Berichterstatter auch damit begonnen, den Teil der Verpflichtungen zu klären, denen Anbieter und Nutzer in Bezug auf Hochrisikosysteme unterliegen werden.
„Wir führen bisher konstruktive Gespräche. Diese Woche werden wir mit voller Kraft zurückkommen“, sagte ein Beamter des Europäischen Parlaments gegenüber EURACTIV.
Verpflichtungen mit hohem Risiko
Dem neuen Text zufolge kann das Qualitätsmanagementsystem, das KI-Anbieter für Hochrisikosysteme implementieren müssen, in bestehende Systeme integriert werden, die geschaffen wurden, um sektorale EU-Vorschriften wie die Europäische Medizinprodukteverordnung einzuhalten.
Die Artikel über die Anforderung zur Erstellung technischer Unterlagen und über die Konformitätsbewertung wurden entfernt, da sie mit anderen Artikeln überflüssig sind.
Für die führenden Abgeordneten müssen die KI-Anbieter die von ihren KI-Systemen automatisch generierten Protokolle mindestens sechs Monate lang aufbewahren, sofern nicht anders durch EU- oder nationales Recht vorgeschrieben. Je nach Industriestandards oder dem Zweck des Systems können längere Zeiträume angemessen sein.
Wenn der KI-Anbieter der Meinung ist, dass eines seiner Hochrisikosysteme nicht der Verordnung entspricht, muss er unverzüglich handeln und es vom Markt nehmen und deaktivieren.
Darüber hinaus wurde ein neuer Wortlaut hinzugefügt, der besagt, dass Anbieter Händler und gegebenenfalls andere Akteure in der Wertschöpfungskette unverzüglich über jede Nichteinhaltung und Korrekturmaßnahmen informieren müssen. Sie sollten auch die nationalen Marktüberwachungsbehörden und die benannte Stelle, die das System überprüft hat, über die Nichtkonformität und alle ergriffenen Maßnahmen informieren.
Die KI-Anwender mit hohem Risiko müssen auch zur Verfügung stehen, um mit den nationalen Behörden, dem European AI Board und der Europäischen Kommission zusammenzuarbeiten, um die Konformität ihres Systems nachzuweisen, eine Maßnahme, die bisher Anbietern vorbehalten war.
Auf begründetes Verlangen der EU-Exekutive oder einer Marktüberwachungsbehörde müssten Anbieter oder Nutzer Zugang zu den automatisch generierten Protokollen gewähren. Alle diese öffentlichen Stellen wären zur Vertraulichkeit verpflichtet.
Verteilung der Verantwortung
Insgesamt zielen diese Änderungen darauf ab, das Problem der Zuweisung von Verantwortung in der komplexen KI-Lieferkette anzugehen. Interessanterweise „parkt“ der Änderungsantrag zur Zusammenarbeit mit Behörden diejenigen im Zusammenhang mit Governance und Allzweck-KI, wobei letzteres ein heißes Thema ist.
Konservative Abgeordnete haben darauf gedrängt, spezifische Bestimmungen für Allzweck-KI aufzunehmen, bei denen es sich um Systeme handelt, die für die Ausführung verschiedener Aufgaben trainiert werden können. Die Frage ist, wie der Anbieter in diesem Fall haftbar gemacht werden kann, wenn er nicht einmal weiß, welchen Zweck die endgültigen Systeme haben werden.
Darüber hinaus soll der Kompromiss die Verantwortlichkeiten der Importeure und Vertreiber von KI-Systemen mit hohem Risiko klären, insbesondere in Bezug darauf, wie sie mit den nationalen Behörden zusammenarbeiten und unerwartete Risiken mindern können.
Als Voraussetzung für den Eintritt in den EU-Markt müssen die KI-Anbieter einen bevollmächtigten Vertreter benennen, der dafür verantwortlich ist, sicherzustellen, dass das Konformitätsbewertungsverfahren durchgeführt wurde, und der zuständigen nationalen Behörde die einschlägigen Unterlagen wie die Erklärung zur Verfügung zu halten der Konformität.
Ein Kommentar am Rand des Dokuments weist darauf hin, dass die Sozialdemokraten immer noch darauf drängen, dass sich alle Hochrisikonutzer in der öffentlichen Datenbank registrieren, nicht nur Behörden.
Verwaltungsverfahren
Die Abgeordneten kehrten auch zu ihrem vorherigen Kompromiss zur Rolle der notifizierten Stellen, der privaten Unternehmen, die für die Prüfung der Konformität von Systemen mit hohem Risiko zuständig sind, und der notifizierenden Behörden, der nationalen Behörden, die die Stellen beaufsichtigen, zurück.
Mit dem neuen Text sollen einheitliche Verwaltungsverfahren im gesamten Block sichergestellt werden, um potenzielle Hindernisse zu beseitigen. Beispielsweise muss das Verfahren zur Bewertung und Überwachung von Konformitätsbewertungsstellen von allen zuständigen nationalen Behörden vereinbart werden.
Interessanterweise entfernte der neue Kompromiss den Absatz über Drehtüren mit dem Hinweis, dass er weiterer Diskussion bedarf. Die Bestimmung würde den Mitarbeiter einer benannten Stelle daran hindern, mit einem KI-Anbieter für ein Jahr zu arbeiten, nachdem die Stelle eines der Systeme des Anbieters geprüft hat.
Darüber hinaus klärt der Text auf Vorschlag konservativer Abgeordneter nun das Verfahren für Konformitätsbewertungsstellen in Drittländern, die entweder über ein Konformitätsbewertungssystem oder ein Abkommen über gegenseitige Anerkennung akkreditiert werden.
Technische Standards
In dem Artikel über harmonisierte Normen hat die Europäische Volkspartei die Hinzufügung eines Verweises auf die vertrauenswürdige KI erwirkt, die während des Normungsprozesses zu berücksichtigen ist.
Die Artikel zur Konformitätsvermutung und Konformitätsbewertung werden bei einem weiteren Fachtreffen diskutiert. Darüber hinaus wird beim anschließenden technischen Meeting am 2. September diskutiert, ob sich der Zeitpunkt für die Aufbewahrung technischer Dokumente an einem bestimmten Zeitplan oder am gesamten Produktlebenszyklus orientieren soll.
[Edited by Nathalie Weatherald]