Während die EU-Politiker Fortschritte bei der Definition eines bevorstehenden Regelwerks für künstliche Intelligenz machen, bleibt die Frage offen, inwieweit KI-Modelle, die zur Verwaltung kritischer Infrastrukturen eingesetzt werden, strengen Anforderungen unterliegen sollten.
Das KI-Gesetz erreicht eine kritische Phase im Gesetzgebungsverfahren, in der das Europäische Parlament in den kommenden Wochen eine gemeinsame Position erreichen wird. Der Gesetzesvorschlag ist der weltweit erste Versuch, ein umfassendes Regelwerk für Künstliche Intelligenz auf der Grundlage ihrer potenziellen Risiken aufzustellen.
Ein kritischer Aspekt des Gesetzentwurfs ist die Kategorie der KI-Modelle, die erheblichen Schaden anrichten können, die strengeren Anforderungen an das Qualitäts- und Risikomanagement genügen müssen. Bei kritischen Infrastrukturen bleibt die Risikobewertung jedoch umstritten.
KI in der kritischen Infrastruktur
Künstliche Intelligenz wird zunehmend für das Management kritischer Infrastrukturen eingesetzt, insbesondere für die Projektentwicklung, Wartung und Leistungsoptimierung.
Ein Beispiel auf der Bauseite ist Sweco Niederlande, ein Ingenieurbüro, das beauftragt wurde, das Stadtbahnsystem von Bybanen, der zweitgrößten Stadt Norwegens, unter Berücksichtigung der bestehenden Straßenbahnlinien, angrenzenden Straßen, Radwege, Fußgängerzonen und umliegenden öffentlichen Bereiche zu erweitern.
Um diese verschiedenen Faktoren zusammenzuführen, verwendete Sweco NL ein digitales Zwillingsmodell, um sein Projekt zu visualisieren und zu verstehen, wie sich Designänderungen auf den Zeitplan, die Kosten und die Umgebung auswirken würden. Das Unternehmen schätzt, dass dadurch Konstruktionsfehler um 25 % reduziert werden konnten.
Ein weiteres Anwendungsgebiet dieser Technologie sind Talsperren. Im Jahr 2017 wandte HDR, ein US-Bauunternehmen, maschinelles Lernen auf das digitale Zwillingsmodell eines Staudamms an, um zu simulieren, wie die Infrastruktur durch Veränderungen wie natürliche Verschiebungen und Erosion des umgebenden Bodens im Laufe der Zeit beeinflusst würde.
Das Modell ermöglichte es Staudammbetreibern, Anomalien wie Risse mit einer Genauigkeit von zwei Zentimetern zu erkennen, sie von harmlosem Algenwachstum zu unterscheiden und Korrekturmaßnahmen zu ergreifen, bevor sie sich zu größeren Problemen auswuchsen.
Regulatorischer Ansatz
Der ursprüngliche Vorschlag zum KI-Gesetz stellte fest, dass „es angemessen ist, KI-Systeme, die als Sicherheitskomponenten bei der Verwaltung und dem Betrieb des Straßenverkehrs und der Versorgung mit Wasser, Gas, Heizung und Strom verwendet werden sollen, als risikoreich einzustufen.“
Im EU-Ministerrat haben die Mitgliedsstaaten klargestellt, dass der Begriff der Sicherheitskomponente vom Managementsystem selbst abzugrenzen ist. Mit anderen Worten, in einem Damm ist der Mechanismus zum Öffnen der Volt das Managementsystem, während die Technologie, die den Wasserdruck überwacht, eine Sicherheitskomponente ist.
Im Europäischen Parlament schlugen die Abgeordneten, die die Arbeit am KI-Gesetz anführten, in von EURACTIV erhaltenen Kompromissänderungsanträgen vor, die Verwaltung des Verkehrs auf Straßen, Schienen und in der Luft von Versorgungsnetzen wie Wasser, Gas, Heizung, Energie und Strom zu unterscheiden.
Während der Rat digitale Infrastrukturen wie Cloud-Dienste und Rechenzentren in die Liste der Anwendungsfälle mit hohem Risiko aufgenommen hat, da die Absicht darin besteht, „erhebliche Störungen der normalen Durchführung sozialer und wirtschaftlicher Aktivitäten“ zu verhindern, hat der EU-Gesetzgeber dies bisher nicht getan .
Die Aufnahme in die Hochrisikoliste hat in der Telekommunikationsbranche, die KI zur Verwaltung der Netzwerkkapazität, zur Planung von Upgrades, zur Erkennung von Betrug und zur Verbesserung der Energieeffizienz einsetzt, erhebliche Besorgnis ausgelöst. Die Frage ist, ob die Fehlfunktion eines dieser Algorithmen das gesamte System zum Erliegen bringen könnte.
Wo soll man eine Grenze ziehen
Wenn beispielsweise ein Telekommunikationsbetreiber Verkehrsspitzen in verschiedenen Bereichen seines Netzwerks falsch berechnet, würde dies zu Internetausfällen führen? Ein Vertreter von Telekommunikationsbetreibern sagte gegenüber EURACTIV, dass ihnen keine Situation bekannt sei, in der dies passiert sei, und brandmarkte das Problem als „höchst hypothetisch“.
Ganz allgemein befürchten Betreiber kritischer Infrastrukturen, dass sie durch eine zu weit gefasste Risikokategorie der KI-Verordnung von nützlichen Instrumenten ausgeschlossen werden könnten, die dazu beitragen, ihre Systeme effizienter und sicherer zu machen.
Ein typisches Beispiel ist, dass die Mitgliedstaaten KI-gestützte Cybersicherheitstools von der Definition der Sicherheitskomponente ausgeschlossen haben.
Die Analyse von Antiviren-Malware basiert auf Vorhersagemodellen und maschinellem Lernen, was bedeutet, dass Dienstanbieter kritischer Infrastrukturen praktisch alle im Handel erhältlichen Antivirenprogramme nicht verwenden können.
Gleichzeitig sind KI-gestützte Managementsysteme nicht ohne Risiken. Kris Shrishak, ein Technologe beim Irish Council for Civil Liberties, sprach 2012 Indien an, als eine Fehleinschätzung des Spitzenverkehrs im Stromnetz zum vielleicht größten Stromausfall der Geschichte führte.
Daher bezieht sich das Argument für einen granulareren Ansatz in der High-Risk-Kategorisierung darauf, wann die KI-Lösungen die Infrastruktur sicherer machen und ihr Ausfall keine unmittelbare Bedrohung nach sich zieht.
Beispielsweise ist die physische Wartung oft kostspielig und zeitaufwändig, was dazu führen kann, dass Infrastrukturen verfallen. Der Verzicht auf die Fähigkeit der KI, Muster zu erkennen und Anomalien zu erkennen, bevor sie sich zu größeren Problemen entwickeln, kann ebenfalls mit Kosten verbunden sein.
Im vergangenen Jahr wurde Frankreich, normalerweise Europas größter Energieexporteur, inmitten der von Russland ausgelösten Energiekrise zum Nettoimporteur, da eine Rekordzahl seiner Kernreaktoren aufgrund von Wartungsunterbrechungen außer Betrieb genommen wurde.
[Edited by Nathalie Weatherald]