Artificial Intelligence in a Digital Age (AIDA), ein im September 2020 eingesetzter Sonderausschuss zur Analyse der horizontalen Auswirkungen der künstlichen Intelligenz auf die Gesellschaft, ist mit seinem am Dienstag (22. März) angenommenen Initiativbericht abgeschlossen.
Der AIDA-Bericht hatte einen holprigen Start, als fortschrittliche politische Gruppen den konservativen Berichterstatter Axel Voss für die allgemeine Erzählung des Berichts kritisierten. Es wurde als zu stark auf den internationalen Wettbewerb konzentriert angesehen, bei dem die EU unweigerlich ins Hintertreffen geriet.
Nach einer erheblichen Überarbeitung wurde der Bericht mit großer Mehrheit im parlamentarischen Ausschuss angenommen, wobei die ursprüngliche Betonung auf den potenziellen Vorteilen der neuen Technologie beibehalten wurde.
Internationale Einstellung
„Die EU hat jetzt die einzigartige Chance, einen menschenzentrierten und vertrauenswürdigen Ansatz für KI auf der Grundlage von Grundrechten zu fördern, der Risiken bewältigt und gleichzeitig die Vorteile, die KI für die gesamte Gesellschaft bringen kann, voll ausschöpft – einschließlich in den Bereichen Gesundheitswesen, Nachhaltigkeit und Arbeit Markt, Wettbewerbsfähigkeit und Sicherheit“, sagte Voss.
Auf internationaler Ebene unterstreicht der Bericht die Bedeutung der EU, eine Rolle als Standardsetzer auf der globalen Bühne zu spielen, und betont die Notwendigkeit, die Wettbewerbsfähigkeit der europäischen Technologieszene zu fördern, um sicherzustellen, dass die EU die internationalen Standards mitgestalten kann Werte.
Gleichzeitig wurde eine anfängliche Warnung, Europa könne zu einer „digitalen Kolonie“ Chinas werden, entfernt. Der Fokus verlagerte sich auf die Zusammenarbeit mit gleichgesinnten demokratischen Partnern.
„Unsere zukünftige globale Wettbewerbsfähigkeit im digitalen Bereich hängt von den Regeln ab, die wir heute aufstellen. Und diese Regeln müssen mit unseren Werten übereinstimmen: Demokratie, Rechtsstaatlichkeit, Grundrechte und Achtung der regelbasierten internationalen Ordnung“, sagte AIDA-Vorsitzender Dragoș Tudorache, der auch Mitberichterstatter für das KI-Gesetz ist der Ausschuss für bürgerliche Freiheiten (LIBE).
Mögliche Vorteile
Ein entscheidender Teil des Berichts ist die Roadmap für KI, eine Reihe von politischen Empfehlungen für 2030 zu Regulierungsrahmen, Binnenmarkt, Nachhaltigkeit, Talent, Forschung, E-Governance, Gesundheit, Industriestrategie, Strafverfolgung, Cybersicherheit und militärischer Nutzung von KI.
Die Frage nach der Gewährleistung eines angemessenen Zugangs zu Daten taucht im Text mehrfach auf. Dennoch wurden die Forderungen von Voss nach einer Reform der EU-Datenschutz-Grundverordnung (DSGVO) auf Drängen von linken bis mittleren Abgeordneten zurückgenommen. Der Wortlaut wurde an der europäischen Datenstrategie ausgerichtet.
„Wir haben es geschafft, den Zugang von Forschern, Start-ups und KMU zur KI-Wirtschaft, einschließlich der Daten, die sie trainieren, deutlich zu machen“, sagte Damian Boeselager, Europaabgeordneter der Grünen. „Die heutige Marktkonzentration in der Datenwirtschaft muss vermieden werden, um sich auf die KI-Wirtschaft auszudehnen.“
Gesetzgeber von beiden Seiten des Ganges bestanden darauf, Europas Wettbewerbsvorteil in der Forschung zu stärken, und forderten mehr Investitionen in Forschung und Entwicklung, um KI-Talente anzuziehen und zu halten.
Der Bericht unterstützt auch die Einrichtung regulatorischer Sandboxen, die die Entwicklung innovativer KI-Systeme und Geschäftsmodelle unter Aufsicht einer Regulierungsbehörde ermöglichen.
Mögliche Risiken
Die potenziellen Risiken von KI standen im Mittelpunkt einer von EURACTIV letzte Woche veranstalteten Veranstaltung, bei der kritische Anwendungen im Justizsystem, im algorithmischen Management von Arbeitnehmern und bei der Grenzkontrolle skizziert wurden. In diesen Situationen mit klaren Machtungleichgewichten könnten KI-Systeme zu Missbrauch und der Reproduktion bestehender Vorurteile führen.
„Wir müssen das Bild abschütteln, dass Technologie irgendwie neutral ist. Es ist nicht. KI bildet alle Formen von Diskriminierung, Rassismus und Voreingenommenheit nach“, sagte während der Veranstaltung Laure Baudrihaye-Gérard, Rechtsdirektorin für Europa bei der NGO Fair Trials.
Während sich der AIDA-Bericht auf die potenziellen Vorteile von KI konzentriert, werden auch systemische Risiken erwähnt. Für Demokratien wird die Bedrohung im Machtungleichgewicht zugunsten digitaler Plattformen gesehen, die die Autonomie der Bürger untergraben könnten. In den Händen autoritärer Regime könnten KI-Systeme zu Massenüberwachung, Rangordnung von Bürgern und Einschränkungen ihrer Freizügigkeit führen.
„Die biometrische Fernidentifikation in öffentlich zugänglichen Räumen erfordert den Aufbau einer massiven technischen Infrastruktur, und sobald wir damit beginnen, sie aufzubauen, wird sie existieren. Es wird wie der Wind sein, den wir nicht aufhalten können“, sagte Wojciech Wiewiórowski, der Europäische Datenschutzbeauftragte, bei derselben Veranstaltung.
Zur militärischen Nutzung von KI, insbesondere zur Entwicklung autonomer Waffen, forderten die Abgeordneten ein internationales Abkommen über den verantwortungsvollen Einsatz von KI in zwischenstaatlichen Organisationen wie den Vereinten Nationen oder der OECD.
„Nur durch die Bereitstellung eines EU-Modells für KI mit angemessenen Sicherheitsvorkehrungen für die Bürger, die das Risiko von Missbrauch und unangemessener Überwachung minimieren, werden wir das Vertrauen der Öffentlichkeit gewinnen“, sagte der fortschrittliche Gesetzgeber Brando Benifei, Mitberichterstatter für das KI-Gesetz im Binnenmarktausschuss (IMCO).
Breitere Implikationen
Mehrere Parlamentsbeamte betonten, dass die Beziehung zwischen dem AIDA-Bericht und dem KI-Gesetz nicht übertrieben werden sollte. Initiativberichte reichen nur bis zu einer politischen Botschaft, während für die KI-Verordnung deutlich härtere Verhandlungen zu erwarten sind.
Vor allem Voss wurde von seinem Kollegen vorgeworfen, versucht zu haben, die beiden Akten zu verknüpfen. Trotzdem schaffte er es, seinen Text über den risikobasierten Ansatz, regulatorische Sandboxen und KI-Anwendungen für die Strafverfolgung durchzubringen. Das heikle Thema Gesichtserkennung wurde jedoch ausgeklammert.
[Edited by Nathalie Weatherald]