Jens-Henrik Jeppesen ist Director of Public Policy, EMEA bei Workday.
Während die Mitgliedstaaten den Vorschlag der Europäischen Kommission für eine Verordnung über Künstliche Intelligenz – das KI-Gesetz – seit einiger Zeit prüfen, beginnt nun das Europäische Parlament mit den Beratungen. Es ist eine enorm wichtige Aufgabe. Der Vorschlag zum KI-Gesetz ist weltweit der erste seiner Art und wird wahrscheinlich weltweit Normen und Standards für die Entwicklung und den Einsatz von KI-Technologie festlegen. Es wird eine unglaublich breite Palette von Technologien und Werkzeugen regulieren, die von allen Arten von Unternehmen und Sektoren verwendet werden sollen, daher ist es wichtig, es richtig zu machen. Bereits heute verbessert KI das Gesundheitswesen, optimiert den Handel, verbessert die Energieresilienz, verbessert die Karrieren der Mitarbeiter und treibt den menschlichen Fortschritt auf unzählige andere Arten voran. Unternehmen verwenden Anwendungen, die KI-Technologien in ihrem gesamten Betrieb integrieren, um bessere Geschäftsentscheidungen zu unterstützen, den Betrieb zu beschleunigen und datengesteuerte Vorhersagen zu liefern, um bessere menschliche Entscheidungen zu treffen.
Workday bietet großen Unternehmen weltweit Finanz-, Humankapitalmanagement-, Planungs- und Analyseanwendungen. Unsere Anwendungen werden über die Cloud bereitgestellt und genießen das Vertrauen von Tausenden von Kunden und zig Millionen ihrer Mitarbeiter. Bei Workday engagieren wir uns voll und ganz für ML-getriebene Innovation. Wir nutzen die Leistungsfähigkeit von ML, um unseren Kunden dabei zu helfen, fundiertere Entscheidungen zu treffen und den Betrieb zu beschleunigen, sowie Mitarbeiter mit datengesteuerten Vorhersagen zu unterstützen, die zu besseren Ergebnissen führen. Wir glauben, dass die transformativsten Anwendungen von KI diejenigen sind, die die Erkenntnisse und die Vorhersagekraft der KI nutzen, um das menschliche Urteilsvermögen und die Entscheidungsfindung zu verbessern, anstatt sie zu ersetzen.
Workday hat sich sowohl in Europa als auch in den USA vehement für eine verhältnismäßige und risikobasierte Regulierung von KI eingesetzt, und wir haben an den Konsultationen der Kommission im Vorfeld des KI-Gesetzes mitgewirkt. Insgesamt loben wir die Kommission für den Vorschlag zum KI-Gesetz. Es ist gut ausgearbeitet, akribisch durchdacht und umfassend und eine gute Grundlage für den Gesetzgebungsprozess. Durch die Festlegung eines soliden Grundrechtsschutzes für KI-Systeme, die ein Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen, kann die Gesetzgebung einen lebendigen Markt für vertrauenswürdige und ethische KI-Systeme schaffen.
Bei der Prüfung des Vorschlags durch die Mitgliedstaaten und das Europäische Parlament sind wir der Meinung, dass sie einige seiner Kernelemente beibehalten sollten. Erstens sollten sie den risikobasierten Ansatz unterstützen. Es ist konzeptionell sinnvoll, Nutzungsszenarien entlang einer Risikoskala zu kategorisieren, wie sie von der Europäischen Kommission vorgeschlagen wird, und auf dieser Grundlage regulatorische Anforderungen zu erlassen. Einige KI-Systeme können inakzeptable Risiken verursachen, andere nur geringe oder keine Risiken. Einige sind eigenständige Softwaresysteme, die Auswirkungen auf die Grundrechte haben können, und andere sind als Gesundheits- und Sicherheitskomponenten in physische Produkte eingebettet. Unter Beibehaltung des risikobasierten Ansatzes glauben wir, dass die Regulierung verbessert werden kann, indem die Definition von KI insgesamt verschärft wird, die Software und Tools zu umfassen scheint, die normalerweise nicht mit KI in Verbindung gebracht werden. Darüber hinaus wäre sicherzustellen, dass die Hochrisikodefinition nicht versehentlich Nutzungsszenarien umfasst, die keine wesentlichen Risiken mit sich bringen.
Ein weiteres wesentliches Element des Vorschlags ist der Grundsatz der Selbstbewertung. Dies ermöglicht es KI-Anbietern, während des gesamten Design- und Entwicklungsprozesses relevante Verpflichtungen einzuhalten. Die Selbstbewertung ist besonders wichtig für die Bereitstellung von Software as a Service, bei der häufig Verbesserungen und Upgrades veröffentlicht werden. Ein Bewertungsansatz von Drittanbietern würde die Markteinführungszeit verlängern, da Unternehmen für die Genehmigung solcher Aktualisierungen von externen Bewertungsstellen abhängig wären. Durch die Beschränkung der Fremdbewertung auf sehr wenige Arten von Hochrisikoanwendungen vermeidet das KI-Gesetz die Gefahr einer Überlastung der Bewertungsstellen mit Fällen.
Die größten Herausforderungen, die wir im Entwurf des KI-Gesetzes sehen, betreffen das von der Europäischen Kommission gewählte Regulierungsmodell für die Produktsicherheit – den Ansatz des New Legislative Framework. Dieser bestehende Produktsicherheitsrahmen scheint gut für KI geeignet zu sein, die in Produkte wie Internet-of-Things-Geräte, autonome Autos, Robotik oder andere Maschinen eingebettet ist. Bei vielen eigenständigen Softwareanwendungen steht jedoch der Schutz der Grundrechte – nicht der Gesundheit und Sicherheit – im Vordergrund. Für solche Softwaresysteme, die ständig aktualisiert und verbessert werden, wäre es relevanter, eine Reihe von prozessbasierten Regeln und Anforderungen zu verwenden, um Anbieter von KI-Systemen und Organisationen, die diese Technologien verwenden, zu leiten. Dies wäre ein besserer Ansatz, um sicherzustellen, dass Grundrechtsbedenken angemessen berücksichtigt werden, wenn KI-Systeme entwickelt und in Hochrisikoszenarien eingesetzt werden.
Ein weiteres Problem des Produktsicherheitsmodells ist die Annahme im KI-Gesetz, dass ein KI-System ähnlich wie ein physisches Produkt mit Gebrauchsanweisung an den Kunden übergeben wird. In diesem Modell wird der Anbieter für die Sicherheit des Produkts verantwortlich gemacht, und im KI-Gesetz liegen Verpflichtungen und Anforderungen überwiegend beim Anbieter und nicht beim Nutzer. In vielen Unternehmens- und Business-to-Business-Anwendungsfällen werden KI-Systeme jedoch unter der Kontrolle der Kundenorganisation (Benutzer) bereitgestellt und angepasst, und der Benutzer bestimmt, wie das KI-System mit den vom Benutzer kontrollierten Daten interagiert. Es wäre ratsam, die Zuständigkeitsverteilung im KI-Gesetz so zu ändern, dass sie für solche Einsatzszenarien flexibel genug ist.
Workday wird auf der Grundlage unserer Analyse des KI-Gesetzes und unseres Weißbuchs zur Vertrauensbildung in KI/ML weiterhin zum Gesetzgebungsverfahren beitragen. Wir unterstützen die internationale Koordination durch die OECD, die Global Partnership on AI und zuletzt im EU-US Technology & Trade Council, wo KI ein wichtiger Bereich für die Zusammenarbeit sein wird. Die zwei Ziele der KI-Strategie der EU – das Potenzial der KI nutzen und gleichzeitig die damit verbundenen Risiken angehen – werden von politischen Entscheidungsträgern in den USA und vielen anderen Ländern geteilt. Um diese Ziele zu erreichen, ist ein innovationsfreundliches, verhältnismäßiges und risikobasiertes EU-KI-Gesetz unerlässlich.