Laut einem Bericht des US-Außenministeriums stellt KI eine Bedrohung dar, die vom Aussterben bedroht ist, und die US-Regierung muss mit neuen „Notfallbefugnissen“ zur Kontrolle der Technologie ausgestattet werden

Eine neue vom US-Außenministerium finanzierte Studie fordert ein vorübergehendes Verbot der Entwicklung fortschrittlicher KI, wenn eine bestimmte Rechenleistungsschwelle überschritten wird.

Die Autoren behaupten, die Technologie stelle eine „Bedrohung vom Aussterbensniveau für die menschliche Spezies“ dar.

Die Studie, die im Rahmen eines Bundesauftrags über 250.000 US-Dollar in Auftrag gegeben wurde, fordert auch die „Festlegung von Notfallbefugnissen“ für die Exekutive der amerikanischen Regierung, „um auf gefährliche und sich schnell entwickelnde KI-bezogene Vorfälle zu reagieren“ – wie etwa „Schwarmrobotik“.

Die Behandlung von High-End-Computerchips als internationale Schmuggelware und sogar die Überwachung der Hardware-Nutzung sind nur einige der drastischen Maßnahmen, die die neue Studie fordert.

Der Bericht schließt sich einem Chor von Stimmen aus Industrie, Regierung und Wissenschaft an, die eine aggressive regulatorische Aufmerksamkeit für das heiß ersehnte und bahnbrechende, aber gesellschaftlich disruptive Potenzial der künstlichen Intelligenz fordern.

Im vergangenen Juli verknüpfte beispielsweise die Agentur der Vereinten Nationen für Wissenschaft und Kultur (UNESCO) ihre KI-Bedenken mit ebenso futuristischen Sorgen über die Gehirnchip-Technologie, à la Elon Musks Neuralink, und warnte davor, dass „Neuroüberwachung“ die „geistige Privatsphäre“ verletzt.

Der Bericht von Gladstone AI stellt ein dystopisches Szenario dar, in dem die Maschinen selbst entscheiden könnten, dass die Menschheit ein Feind ist, der ausgerottet werden muss, ähnlich wie in den Terminator-Filmen: „Wenn sie mit aktuellen Techniken entwickelt werden, [AI] könnte sich standardmäßig feindselig gegenüber Menschen verhalten.

Während der neue Bericht gleich auf der ersten Seite feststellt, dass seine Empfehlungen „nicht die Ansichten des US-Außenministeriums oder der US-Regierung widerspiegeln“, informieren seine Autoren die Regierung seit 2021 über KI.

Die Autoren der Studie, ein vierköpfiges KI-Beratungsunternehmen namens Gladstone AI unter der Leitung der Brüder Jérémie und Edouard Harris, erklärten gegenüber TIME, dass ihre früheren Präsentationen zu KI-Risiken häufig von Regierungsbeamten ohne Handlungsbefugnis gehört wurden.

Das habe sich beim US-Außenministerium geändert, sagten sie dem Magazin, denn dessen Büro für internationale Sicherheit und Nichtverbreitung sei speziell damit beauftragt, die Verbreitung katastrophaler neuer Waffen einzudämmen.

Und der Gladstone AI-Bericht widmet dem „Waffenrisiko“ große Aufmerksamkeit.

In den letzten Jahren hat Jérémie Harris (Einschub), CEO von Gladstone AI, auch vor dem Ständigen Ausschuss für Industrie und Technologie des kanadischen Unterhauses referiert (Bild).

Im Silicon Valley gibt es eine große KI-Kluft. Brillante Köpfe sind sich über den Fortschritt der Systeme uneinig – einige sagen, dass er die Menschheit verbessern wird, andere befürchten, dass die Technologie sie zerstören wird

Sie schreiben, dass eine offensive, fortschrittliche KI „potenziell dazu genutzt werden könnte, katastrophale biologische, chemische oder Cyber-Angriffe zu entwerfen und sogar auszuführen oder beispiellose waffenfähige Anwendungen in der Schwarmrobotik zu ermöglichen.“

Doch der Bericht schildert ein zweites, noch dystopischeres Szenario, das sie als „Kontrollverlust“-KI-Risiko beschreiben.

Es gibt, schreiben sie, „Grund zu der Annahme, dass sie [weaponized AI] können unkontrollierbar sein, wenn sie mit aktuellen Techniken entwickelt werden, und könnten sich standardmäßig feindselig gegenüber Menschen verhalten.“

Mit anderen Worten: Die Maschinen können selbst entscheiden, dass die Menschheit (oder eine Teilmenge der Menschheit) einfach ein Feind ist, der endgültig ausgerottet werden muss.

Auch der CEO von Gladstone AI, Jérémie Harris, stellte ähnlich schwerwiegende Szenarien vor den Anhörungen des Ständigen Ausschusses für Industrie und Technologie im kanadischen Unterhaus im vergangenen Jahr am 5. Dezember 2023 vor.

„Es ist keine Übertreibung zu sagen, dass die Diskussionen über Wasserkühler in der KI-Sicherheitsgemeinschaft an Grenzgebieten die KI der nahen Zukunft als Massenvernichtungswaffe darstellen“, sagte Harris gegenüber kanadischen Gesetzgebern.

„Öffentlich und privat sagen uns Frontier-KI-Labore, dass wir erwarten sollen, dass KI-Systeme in den nächsten Jahren in der Lage sein werden, katastrophale Malware-Angriffe durchzuführen und neben vielen anderen alarmierenden Fähigkeiten auch die Entwicklung von Biowaffen zu unterstützen“, heißt es in der Berichterstattung von IT World Canada über ihn Bemerkungen.

„Unsere eigenen Untersuchungen“, sagte er, „legen nahe, dass dies eine vernünftige Einschätzung ist.“

Harris und seine Co-Autoren stellten in ihrem neuen Bericht des US-Außenministeriums fest, dass die stark risikokapitalfinanzierten KI-Firmen des privaten Sektors einem unglaublichen „Anreiz zur Skalierung“ ausgesetzt sind, um ihre Konkurrenz zu schlagen, mehr als jedem ausgleichenden „Anreiz, in Sicherheit zu investieren“.

Das einzig praktikable Mittel, um die Lücken in ihrem Szenario zu schließen, liegt ihrer Meinung nach außerhalb des Cyberspace, und zwar über die strenge Regulierung der High-End-Computerchips, die zum Trainieren von KI-Systemen in der realen Welt verwendet werden.

Der Gladstone AI-Bericht nennt die Nichtverbreitungsarbeit an dieser Hardware die „wichtigste Voraussetzung, um die globale Sicherheit und den Schutz vor KI langfristig zu gewährleisten“.

Und es war kein leichtfertiger Vorschlag, den sie angesichts der unvermeidlichen Wahrscheinlichkeit von Protesten in der Industrie machten: „Es ist eine äußerst schwierige Empfehlung, und wir haben viel Zeit damit verbracht, nach Wegen zu suchen, Maßnahmen wie diese vorzuschlagen“, sagten sie.

Mark Beall, einer der Mitautoren der Harris-Brüder an dem neuen Bericht, war während seiner Regierungszeit als Chef für Strategie und Politik im Joint Artificial Intelligence Center des Pentagon tätig.

Beall scheint dringend auf die im neuen Bericht identifizierten Bedrohungen zu reagieren: Der ehemalige KI-Strategiechef des US-Verteidigungsministeriums hat inzwischen Gladstone verlassen, um ein Super-PAC zu starten, das sich den Risiken der KI widmet.

Das PAC mit dem Namen „Americans for AI Safety“ startete an diesem Montag mit der erklärten Hoffnung, „bis Ende 2024 Gesetze zur KI-Sicherheit zu verabschieden“.