Die Möglichkeit für Behörden und externe Prüfer, auf den Quellcode der künstlichen Intelligenz in einem kommenden EU-Regelwerk zuzugreifen, wurde laut internen Dokumenten der Europäischen Kommission auf der Grundlage eines digitalen Handelsabkommens eingeschränkt.
Die internen Dokumente wurden über eine Informationsfreiheitsanfrage von Kristina Irion, einer Rechtsprofessorin an der Universität Amsterdam, erhalten, die mehrere Anfragen der Handelsabteilung der Kommission an die Abteilung für Digitalpolitik zum Entwurf des KI-Gesetzes enthielt.
Das KI-Gesetz ist ein wegweisender Gesetzesvorschlag zur Regulierung der künstlichen Intelligenz auf der Grundlage ihres Schadenspotenzials. Die Forderungen betreffen die Eingrenzung der Bestimmungen in der Verordnung in Bezug auf die Offenlegung des Quellcodes und deren Angleichung an die Handelsverpflichtungen der EU.
Für Irion weisen die Dokumente auf eine besorgniserregende Umkehrung dessen hin, was der richtige Ansatz sein sollte, denn „die EU sollte die Handelspolitik nutzen, um ihre Gesetzgebungsagenda voranzutreiben, und nicht zulassen, dass frühere Handelsverpflichtungen ihre digitale Politikgestaltung beeinflussen.“
Insbesondere forderten Vertreter der Handelspolitik, die Bestimmungen in Bezug auf die Bestimmungen des Quellcodes einzugrenzen, um sie mit dem Handelskooperationsabkommen zwischen der EU und dem Vereinigten Königreich in Einklang zu bringen.
Das Handelsabkommen verpflichtet London und Brüssel, die Übertragung des Quellcodes von Software nur unter bestimmten Bedingungen zu verlangen, insbesondere wenn eine Regulierungsbehörde sie zur Durchsetzung eines Gesetzes zum Schutz der öffentlichen Sicherheit auffordert.
In einer internen Mitteilung vom 09.04.2021 bedankte sich die Handelsabteilung bei der Abteilung Digitalpolitik für die Änderung der Anforderungen an die Technische Dokumentation, forderte aber weitere Änderungen in Bezug auf die Konformitätsbewertung der Qualitätsmanagementsysteme, insbesondere in Bezug auf die Bestimmung zur externen Überprüfung von Benannte Stellen – zugelassene unabhängige Prüfer.
Die Handelsabteilung forderte, dass die Formulierung zur Bereitstellung des Quellcodes eingegrenzt werden sollte, indem ein Verweis auf einen „vollständigen“ Zugang gestrichen und präzisiert wurde, dass er nur bereitgestellt wird, um die Konformität eines Systems mit hohem Risiko zu bewerten, um einen übermäßig breiten Zugang zu vermeiden Deutung.
In ähnlicher Weise forderte die Handelsabteilung, den Verweis auf die Gewährung des „vollständigen“ Zugangs zum Quellcode für eine Marktüberwachungsbehörde zu streichen, um zu beurteilen, ob ein KI-System, das als hochgefährlich eingestuft wird, den Verpflichtungen des KI-Gesetzes entspricht.
Gleichzeitig forderten die Handelspolitiker, dass Benannte Stelle und Behörde bei der Offenlegung eines Quellcodes zur Vertraulichkeit verpflichtet werden.
Alle angeforderten Änderungen gelangten in den endgültigen Entwurf, den die Europäische Kommission später in diesem Monat veröffentlichte.
„Jeder Art von Quellcode einen Blankschutz zu gewähren, obwohl ein Großteil davon über Open Source verfügbar ist, kommt dem Seitenladen eines neuen Schutzregimes gleich, das die aktuellen Urheberrechts- und Geschäftsgeheimnisregeln untergräbt, wobei Sie dies zumindest beweisen müssen Informationen sind wirtschaftlich sensibel“, fügte Irion hinzu.
Der EU-Rat, der seine Position zur KI-Verordnung im Dezember angenommen hat, hat den Umfang der Bedingungen für den Zugriff auf den Quellcode von KI weiter eingeengt und damit praktisch zu einer Maßnahme der letzten Instanz gemacht.
In der Zwischenzeit entzog ein vorläufiger Text im Europäischen Parlament den nationalen Behörden die Befugnis, auf den Quellcode des Trainingsmodells des KI-Systems zuzugreifen.
Laut Irion besteht das Risiko darin, den Zugang zu diesen wertvollen Informationen für die Aufsichtsbehörden übermäßig zu erschweren, die möglicherweise mit Verwaltungsaufwand konfrontiert sind oder Angst haben, Rechtsstreitigkeiten von Unternehmen zu verlieren und Schadensersatz zu zahlen.
„Mit dem Aufkommen leistungsstarker KI-Modelle wie ChatGPT brauchen wir ein besseres Verständnis dafür, wie diese disruptiven Technologien tatsächlich funktionieren. Wir können uns nicht nur auf die technischen Unterlagen der Unternehmen verlassen“, fügte Irion hinzu.
[Edited by Nathalie Weatherald]
