Ein Technologieexperte hat gewarnt, dass neue Fortschritte in der KI-gestützten Technologie im Jahr 2024 zu einer „Explosion“ der Cyberkriminalität führen werden.
Shawn Henry, der Chief Security Officer von CrowdStrike, berichtete kürzlich darüber, wie Cyberkriminelle KI nutzen können, um die Cybersicherheitsabwehr von Einzelpersonen zu durchbrechen, Fehlinformationen zu verbreiten oder Unternehmensnetzwerke zu infiltrieren.
Cyberkriminelle können KI nutzen, um Menschen während der Wahlsaison dazu zu verleiten, falsche Narrative zu glauben und möglicherweise sensible Informationen preiszugeben, sagte der pensionierte stellvertretende Direktor des Federal Bureau of Investigation (FBI).
Die Warnung des Cybersicherheitsveteranen kommt zu einem Zeitpunkt, an dem KI mehr Aufgaben als je zuvor erhalten hat, auch in den US-amerikanischen Bundes- und Landesregierungen.
27 Ministerien der US-Bundesregierung haben auf die eine oder andere Weise KI eingesetzt, und das gilt auch für viele Bundesstaaten.
In Texas beispielsweise haben mehr als ein Drittel der staatlichen Behörden wesentliche Aufgaben an KI delegiert, darunter die Beantwortung von Fragen der Menschen zu Arbeitslosenunterstützung. Auch Ohio, Utah und andere Bundesstaaten setzen KI-Technologie ein.
Da die KI immer leistungsfähiger wird, verfügen Cyberkriminelle über mehr Werkzeuge, um Sicherheitsmaßnahmen zu durchbrechen oder die Öffentlichkeit in die Irre zu führen
Da KI in so vielen Bereichen der Regierung und des öffentlichen Dienstes eingesetzt wird, befürchten Experten, dass diese Technologien Opfer von Voreingenommenheit, Kontrollverlust über die Technologie oder Datenschutzverletzungen werden könnten.
„Das ist für uns alle ein großes Anliegen“, sagte Henry bei CBS Mornings. „KI hat dieses enorm leistungsstarke Werkzeug wirklich in die Hände des Durchschnittsmenschen gelegt und ihn dadurch unglaublich leistungsfähiger gemacht.“
Im Oktober warnte FBI-Direktor Chris Wray, dass KI derzeit am gefährlichsten sei, wenn sie Cyberkriminelle auf niedriger Ebene auf die nächste Stufe heben könne.
Doch bald, so prognostizierte er, werde es denjenigen, die bereits Experten sind, einen beispiellosen Aufschwung verschaffen und sie gefährlicher denn je machen.
Ein Beispiel ist laut Henry die Schaffung von KI-generierten Audio- und Videoaufnahmen, „die unglaublich glaubwürdig sind und die Menschen dazu bringen, etwas anzuschauen, etwas zu sehen und zu glauben, dass es wahr ist, obwohl es tatsächlich hergestellt wurde – oft von einer ausländischen Regierung.“ .’
Rivalisierende Regierungen könnten diese KI-Tools nutzen, um Fehlinformationen zu verbreiten, um demokratische Institutionen zu untergraben und andere außenpolitische Ziele zu erreichen, behaupten Cybersicherheitsexperten.
Deepfake-Videos können überzeugende Kopien von Persönlichkeiten des öffentlichen Lebens, einschließlich Prominenten und Politikern, erstellen, aber der Gelegenheitsbetrachter ist möglicherweise nicht in der Lage, dies zu erkennen
„Es ist wichtig, genau hinzusehen, wenn man mit Informationen von unbekannten Orten im Internet konfrontiert wird, da es sich möglicherweise um jemanden handelt, der versucht, Sie in die Irre zu führen oder Ihre persönlichen Daten zu stehlen“, sagte Henry.
„Sie müssen überprüfen, woher es kommt“, sagte er. „Wer erzählt die Geschichte, was ist ihre Motivation und können Sie sie anhand mehrerer Quellen überprüfen?“
„Es ist unglaublich schwierig, weil die Leute – wenn sie Videos verwenden – 15 oder 20 Sekunden Zeit haben, keine Zeit haben oder sich oft nicht die Mühe machen, diese Daten zu beschaffen, und das ist problematisch.“
Die Bedrohung ist nicht immer fremd.
Nach Angaben der Texas Tribune nutzte eine von drei texanischen Staatsbehörden im Jahr 2022, dem letzten Jahr, für das diese Daten verfügbar sind, irgendeine Form von KI.
Ohios Arbeitsämter haben KI eingesetzt, um Betrug bei Arbeitslosenversicherungsansprüchen vorherzusagen, und Utah nutzt KI, um den Viehbestand zu verfolgen.
Auf nationaler Ebene nutzen bereits 27 verschiedene Bundesministerien KI.
Laut seiner Webseite zum Thema KI nutzt das US-Bildungsministerium einen Chatbot, um Fragen zu Finanzhilfen zu beantworten, und einen Workflow-Bot, um Verwaltungspläne im Backoffice zu verwalten.
Noch mehr Prozesse wurden im Handelsministerium automatisiert: Fischereiüberwachung, Exportmarktforschung und Business-to-Business-Matchmaking sind nur einige der Aufgaben, die teilweise der KI übertragen wurden.
Das Außenministerium hat auf seiner Website 37 aktuelle KI-Rollen aufgelistet, darunter Deepfake-Erkennung, Verhaltensanalysen für Online-Umfragen und automatisierte Schadensbewertungen.
Laut der Unternehmensberatung Deloitte sind Regierung und öffentliche Dienste wichtige Bereiche des KI-Wachstums.
Ein wesentliches Hindernis für die Technologie besteht jedoch darin, dass Regierungsbehörden hohe Anforderungen an die Technologiesicherheit stellen müssen.
„Angesichts ihrer Verantwortung, die Öffentlichkeit auf gerechte Weise zu unterstützen, müssen Organisationen des öffentlichen Dienstes bei der Reaktion auf grundlegende KI-Fragen wie Vertrauen, Sicherheit, Moral und Fairness tendenziell hohe Standards einhalten“, sagte das Unternehmen.
„Angesichts dieser Herausforderungen unternehmen viele Regierungsbehörden große Anstrengungen, um die Leistungsfähigkeit der KI zu nutzen und gleichzeitig vorsichtig durch dieses Labyrinth rechtlicher und ethischer Überlegungen zu navigieren.“