Die kontinuierliche Entwicklung der KI bringt sowohl Herausforderungen als auch Chancen für den Cybersicherheitssektor mit sich, sagte eine Reihe von Experten gegenüber EURACTIV und betonte, dass zwar die Risiken zunehmen, aber auch die Möglichkeiten zur Verteidigung zunehmen werden.
„KI öffnet nicht nur die Tür zu neuen Wegen der Cyberkriminalität und neuen Cyberrisiken, sie ist zusammen mit der Zusammenarbeit zwischen Unternehmen eine der Schlüsseltechnologien in der Cybersicherheit“, sagte Cyberexperte Luis Búrdalo Rapa von S2 Grupo, einem spanischen Sicherheitsunternehmen. sagte EURACTIV.
Um mit dieser sich schnell entwickelnden Technologie Schritt zu halten, müssen Cybersicherheitsunternehmen Big-Data- und KI-Experten einstellen und ihre Cybersicherheitsanalysten schulen, um die Fähigkeiten von Algorithmen zu verstehen und Angriffe gegen KI-Technologie sowie Angriffe mit KI-Technologie zu verhindern, erklärte Búrdalo Rapa.
Ein technologisches Tauziehen
KI kann möglicherweise die Nachfrage nach bestimmten Einstiegsjobs reduzieren, bei denen KI-Lösungen die menschliche Belegschaft unterstützen und die Prozesse effizienter gestalten können.
„Dort wird dann mit dem Profi ‚zusammengearbeitet‘ [Machine Learning] „ML-gestützte Cybersicherheitslösungen – also eine Augmentation des Fachwissens – werden stattfinden“, sagte Sven Herpig, Direktor für Cybersicherheitspolitik bei der Denkfabrik Stiftung Neue Verantwortung (SNV), gegenüber EURACTIV.
Der Einsatz groß angelegter Sprachmodelle wie ChatGPT oder Google Bard kann potenziellen Bewerbern den Einstieg in ein sehr komplexes, theoretisches Thema erleichtern.
Während KI auch die Weiterbildung und Vorbereitung auf einen Einstiegsjob unterstützen kann, erfordert der Einsatz und die Entwicklung KI-basierter Tools spezifische Kenntnisse und Fachkenntnisse in diesen Algorithmen.
Während KI Teil der Lösung sein kann – indem sie beispielsweise Möglichkeiten zur Verteidigung schafft –, kann sie auch Teil des Problems sein, indem sie die Zahl der Angriffe beschleunigt. Dadurch wird es zu einer ständigen Quelle von Cyber-Risiken.
„Wir kennen die Balance noch nicht, nämlich ob die angreifenden Kräfte die defensiven übertreffen werden. Es wird wie ein Tauziehen sein, bei dem der Gleichgewichtspunkt unverändert bleiben kann, wenn die Stärke der beiden Kräfte gleichermaßen wächst“, sagte Giuseppe D’Acquisto, Senior Technology Advisor der italienischen Datenschutzbehörde, gegenüber EURACTIV.
Im Mai veröffentlichte die EU-Strafverfolgungsbehörde Europol einen Kurzbericht über den möglichen Missbrauch generativer KI-Modelle wie ChatGPT und wies darauf hin fortgeschrittenes Phishing, Identitätsdiebstahl, Fake-News- und Desinformationskampagnen sowie die Entwicklung neuer Social-Engineering-Angriffe und Malware.
Automatisierung und menschliche Überprüfung in Einklang bringen
Bei sich wiederholenden Aufgaben und mechanischen Arbeiten, etwa der systematischen Mustererkennung, erreichen Maschinen bereits heute eine höhere Präzision und Ausdauer als Menschen.
Zu diesen Aufgaben im Bereich der Cybersicherheit gehören die Erkennung von Anomalien, die Erkennung bösartiger Verhaltensmuster und die Automatisierung der Verarbeitung von Cybersicherheitswarnungen.
„Wenn wir darauf abzielen, einfache und sich wiederholende Probleme zu lösen, können alle Aufgaben im Zusammenhang mit der Codeerstellung für diese Probleme leicht automatisiert werden“, sagte D’Acquisto.
Andererseits gelingt es der algorithmenbasierten Entscheidungsfindung oft nicht, den Kontext zu verstehen und die Gründe für die Entscheidungen zu erklären. Das mangelnde Verständnis darüber, woher eine Entscheidung kommt, ist einer der entscheidenden Gründe, warum Cybersicherheitsexperten zögern, KI-basierte Lösungen in Bereichen wie kritischen Infrastrukturen einzuführen.
„Wir verwenden KI sowohl für die Automatisierung von Aufgaben auf niedriger Komplexitätsebene, wie zum Beispiel der Bewertung des Grads der potenziellen Bösartigkeit einer URL, sodass sich Experten auf Aufgaben mit höherer Komplexität für die Bedrohungssuche oder Malware-Erkennung konzentrieren können“, fügte Búrdalo Rapa von S2 Grupo hinzu.
Während die Erkennung weniger hochwertiger bösartiger Aktivitäten, beispielsweise Cyberkriminalität, eher teilweise automatisiert erfolgen wird, müssen sich Fachkräfte zunehmend die Fähigkeiten aneignen, um höherwertige Aktivitäten zu erkennen, neue Sicherheitslücken zu erforschen und Risiken zu bewerten.
„Die Feststellung, ob eine neu entdeckte Schwachstelle relevant oder sicherheitskritisch ist, kann durch KI-Technologien stark unterstützt werden. Neue Sprachmodelle bieten auch die Möglichkeit, Codeschnipsel und Skripte zu generieren“, sagte Jonas Kernebeck, Dateningenieur beim Softwareunternehmen Alpas AI, gegenüber EURACTIV.
Zukunftsausblick
Mit Blick auf die Zukunft der IT-Branche sind sich Experten sicher, dass KI die Dynamik zwischen Cybersicherheitspersonal und Hackern intensivieren und beschleunigen wird.
„Cybersicherheit ist immer ein Wettlauf gegen die Zeit, neue Angriffsvektoren gegen neue Verteidigungsstrategien“, sagte Kernebeck.
Während KI dazu beitragen kann, IT-Systeme durch die Schulung von Mitarbeitern und die Anwendung von Angriffssimulationen sicherer zu machen, könnte sie die Cybersicherheitsbelegschaft je nach Herangehensweise an diese disruptive Technologie auch in zwei Klassen spalten.
„Wir werden viel mehr IT-Mitarbeiter der ‚Arbeiterklasse‘ haben als heute, die sich mit den sich wiederholenden Aufgaben der ‚Korrektur‘ und ‚Versionierung‘ befassen, und nur sehr wenige ‚strategische‘ gut bezahlte IT-Mitarbeiter, die in der Lage sind, die Komplexität dieser Phase zu bewältigen.“ der Schöpfung“, sagte D’Acquisto.
[Edited by Luca Bertuzzi/Nathalie Weatherald]
