Die Tschechische Republik möchte, dass die Kommission bewertet, wie die Verpflichtung des KI-Gesetzes am besten an Allzweck-KI angepasst werden kann, so der jüngste Kompromisstext, der EURACTIV vorliegt. Weitere behandelte Aspekte sind Strafverfolgung, Transparenz, Innovation und Governance.
Der Kompromiss, der am Freitag (23. September) verteilt wurde, vervollständigt die dritte Überarbeitung des KI-Gesetzes, eines wegweisenden Vorschlags zur Regulierung künstlicher Intelligenz mit einem risikobasierten Ansatz. Das Dokument wird am 29. September auf einer Sitzung der Telekom-Arbeitsgruppe erörtert.
Allzweck-KI-Systeme
Wie man sich Allzweck-KI nähert, war ein viel diskutiertes Thema. Diese Systeme, wie z. B. große Sprachmodelle, können angepasst werden, um verschiedene Aufgaben auszuführen, was bedeutet, dass der Anbieter die endgültige Verwendung seines Systems möglicherweise nicht kennt.
Die Frage ist, ob Allzweck-KI die Anwendung der Verordnung respektieren sollte, falls sie in Anwendungen mit hohem Risiko verwendet oder integriert werden kann. Während der Diskussionen im EU-Rat beklagten mehrere Länder das Fehlen einer Bewertung darüber, was die direkte Anwendung dieser Verpflichtungen im Hinblick auf die technische Machbarkeit und die Marktentwicklung bedeuten könnte.
Der tschechische Ratsvorsitz schlug vor, dass die Europäische Kommission die einschlägigen Verpflichtungen durch Durchführungsrechtsakte innerhalb von anderthalb Jahren nach Inkrafttreten der Verordnung anpassen und eine öffentliche Konsultation und Folgenabschätzung durchführen sollte, wie die Besonderheiten dieser Technologie am besten berücksichtigt werden können.
Für den Ratsvorsitz sollten diese künftigen Verpflichtungen für KI-Allzwecksysteme jedoch nicht für KMU gelten, solange sie keine Partner oder Verbindungen zu größeren Unternehmen sind.
Darüber hinaus könnte die EU-Exekutive zusätzliche Durchführungsrechtsakte erlassen, in denen festgelegt wird, wie die Allzwecksystemanbieter für Hochrisiko-KI das Prüfverfahren einhalten müssen.
In Fällen, in denen die Anbieter für ihr Mehrzwecksystem keine risikoreiche Anwendung sehen, würden sie durch die damit verbundenen Anforderungen entlastet. Wenn den Anbietern ein Missbrauch bekannt wird, schreibt der Kompromiss vor, dass sie Maßnahmen ergreifen, die in einem angemessenen Verhältnis zur Schwere der damit verbundenen Risiken stehen.
Der Kompromiss schränkte das Ermessen der Kommission ein, gemeinsame technische Spezifikationen für KI-Systeme mit hohem Risiko und für allgemeine Zwecke anzunehmen.
Strafverfolgung
Eine Reihe von Bestimmungen wurden zugunsten der Strafverfolgungsbehörden aufgenommen.
Die Tschechen schlugen vor, die Registrierung in der öffentlichen Datenbank vom Anbieter von Hochrisikosystemen auf alle öffentlichen Stellen auszudehnen, die solche KI verwenden, mit Ausnahme der Strafverfolgungs-, Grenzkontroll-, Migrations- oder Asylbehörden.
Darüber hinaus würde die Verpflichtung, einem Anbieter eines Hochrisikosystems die Feststellung schwerwiegender Vorfälle zu melden oder Informationen für die Überwachung nach dem Inverkehrbringen bereitzustellen, nicht für sensible Betriebsdaten im Zusammenhang mit Strafverfolgungstätigkeiten gelten.
Ebenso müsste die Marktüberwachungsbehörde sensible Informationen nicht preisgeben, wenn sie ihre Kollegen und die Kommission darüber informiert, dass ein System mit hohem Risiko ohne Konformitätsbewertung über das Notfallverfahren eingesetzt wurde.
Der Artikel, der allen an der Anwendung der KI-Verordnung beteiligten Stellen die Vertraulichkeit vorschreibt, wurde erweitert, um Straf- und Verwaltungsverfahren und die Integrität von nach EU- oder nationalem Recht klassifizierten Informationen zu schützen.
Was das Testen neuer KI unter realen Bedingungen betrifft, wurde die Verpflichtung, dass der Proband eine informierte Einwilligung erteilen muss, für die Strafverfolgung freigestellt, sofern dies den Probanden nicht negativ beeinflusst.
Transparenzpflichten
Wenn ein KI-System für die menschliche Interaktion bestimmt ist, muss die Person in Bezug auf die Transparenz darauf aufmerksam gemacht werden, dass es sich um eine Maschine handelt, es sei denn, dies ist offensichtlich „aus der Sicht einer vernünftigen natürlichen Person, die angemessen informiert und aufmerksam ist und umsichtig.“
Die gleichen Verpflichtungen gelten für KI-Systeme zur biometrischen Kategorisierung und emotionalen Erkennung, mit der einzigen Ausnahme in all diesen Fällen für Ermittlungen der Strafverfolgungsbehörden. Allerdings müsse in diesem Fall die Verkleidung „angemessenen Garantien für die Rechte und Freiheiten Dritter unterliegen“.
Maßnahmen zur Förderung der Innovation
Die Liste der Akteure aus dem KI-Ökosystem, die an den regulatorischen Sandboxen beteiligt sind, wurde um „relevante Interessengruppen und Organisationen der Zivilgesellschaft“ erweitert.
In Bezug auf Unterstützungsaktivitäten, die die Mitgliedstaaten durchführen müssen, plädiert Prag dafür, Schulungen in die Organisation aufzunehmen, die ursprünglich dazu gedacht waren, KMU und Start-ups sowie lokalen Behörden die Anwendung des KI-Regelwerks zu erklären.
Führung
Innerhalb des European Artificial Intelligence Board, das alle zuständigen nationalen Behörden der EU zusammenbringen wird, schlagen die Tschechen vor, zwei Untergruppen einzurichten, die eine Plattform für die Zusammenarbeit zwischen den Marktüberwachungsbehörden bieten würden.
Es wurde ein Wortlaut hinzugefügt, der die Kommission ermächtigen würde, Marktbewertungen im Zusammenhang mit der Ermittlung spezifischer Fragen durchzuführen, die eine dringende Koordinierung zwischen den Marktüberwachungsbehörden erfordern würden.
Strafen
Für Prag sollten die EU-Länder bei der Festlegung der Strafen den Grundsatz der Verhältnismäßigkeit für nicht-professionelle Nutzer berücksichtigen.
Der Kompromiss legt fest, bei welchen Verstößen ein Ordnungsgeld in Höhe von 20 Millionen Euro oder 4 % des Unternehmensumsatzes verhängt wird. Dazu gehören Verstöße gegen die Pflichten gegenüber Hochrisiko-Systemanbietern, Importeuren, Händlern und Anwendern sowie gegen die Anforderungen an Benannte Stellen und Rechtsvertreter.
Der Prozentsatz wurde für KMU und Start-ups von 3 % auf 2 % des Jahresumsatzes gesenkt.
[Edited by Nathalie Weatherald]