New York
CNN
—
Ein neuer vom US-Außenministerium in Auftrag gegebener Bericht zeichnet ein alarmierendes Bild der „katastrophalen“ nationalen Sicherheitsrisiken, die von der sich schnell entwickelnden künstlichen Intelligenz ausgehen, und warnt davor, dass der Bundesregierung die Zeit davonläuft, eine Katastrophe abzuwenden.
Die Ergebnisse basierten auf Interviews mit mehr als 200 Personen über einen Zeitraum von mehr als einem Jahr – darunter Top-Führungskräfte führender KI-Unternehmen, Cybersicherheitsforscher, Experten für Massenvernichtungswaffen und nationale Sicherheitsbeamte innerhalb der Regierung.
In dem Bericht, der diese Woche von Gladstone AI veröffentlicht wurde, heißt es rundheraus, dass die fortschrittlichsten KI-Systeme im schlimmsten Fall „eine Bedrohung bis zum Aussterben der menschlichen Spezies darstellen könnten“.
Ein Beamter des US-Außenministeriums bestätigte gegenüber CNN, dass die Behörde den Bericht in Auftrag gegeben hat, da sie ständig prüft, wie KI mit ihrem Ziel, die Interessen der USA im In- und Ausland zu schützen, im Einklang steht. Der Beamte betonte jedoch, dass der Bericht nicht die Ansichten der US-Regierung widerspiegele.
Die Warnung im Bericht ist eine weitere Erinnerung daran, dass das Potenzial der KI zwar weiterhin Investoren und die Öffentlichkeit fasziniert, es aber auch echte Gefahren gibt.
„KI ist bereits eine wirtschaftlich transformative Technologie. Es könnte uns ermöglichen, Krankheiten zu heilen, wissenschaftliche Entdeckungen zu machen und Herausforderungen zu meistern, die wir einst für unüberwindbar hielten“, sagte Jeremie Harris, CEO und Mitbegründer von Gladstone AI, am Dienstag gegenüber CNN.
„Aber es könnte auch ernsthafte Risiken mit sich bringen, einschließlich katastrophaler Risiken, derer wir uns bewusst sein müssen“, sagte Harris. „Und eine wachsende Zahl von Beweisen – einschließlich empirischer Untersuchungen und Analysen, die auf den weltweit führenden KI-Konferenzen veröffentlicht wurden – deutet darauf hin, dass KIs oberhalb einer bestimmten Fähigkeitsschwelle möglicherweise unkontrollierbar werden könnten.“
Die Sprecherin des Weißen Hauses, Robyn Patterson, sagte, die Durchführungsverordnung von Präsident Joe Biden zu KI sei die „bedeutendste Maßnahme, die eine Regierung auf der Welt ergriffen hat, um das Versprechen zu nutzen und die Risiken der künstlichen Intelligenz zu bewältigen.“
„Der Präsident und der Vizepräsident werden weiterhin mit unseren internationalen Partnern zusammenarbeiten und den Kongress auffordern, parteiübergreifende Gesetze zu verabschieden, um die mit diesen neuen Technologien verbundenen Risiken zu bewältigen“, sagte Patterson.
Die Nachricht vom Gladstone AI-Bericht wurde erstmals von Time gemeldet.
„Klare und dringende Notwendigkeit“, einzugreifen
Forscher warnen vor zwei zentralen Gefahren, die von der KI ausgehen.
Erstens, so Gladstone AI, könnten die fortschrittlichsten KI-Systeme als Waffen eingesetzt werden, um potenziell irreversiblen Schaden anzurichten. Zweitens heißt es in dem Bericht, dass es in den KI-Laboren private Bedenken gebe, dass sie irgendwann „die Kontrolle“ über die Systeme verlieren könnten, die sie entwickeln, mit „potenziell verheerenden Folgen für die globale Sicherheit“.
„Der Aufstieg von KI und AGI [artificial general intelligence] „hat das Potenzial, die globale Sicherheit auf eine Weise zu destabilisieren, die an die Einführung von Atomwaffen erinnert“, heißt es in dem Bericht und fügt hinzu, dass die Gefahr eines „KI-Wettrüstens“, eines Konflikts und „tödlicher Unfälle mit Massenvernichtungswaffen“ bestehe.
Der Bericht von Gladstone AI fordert dramatische neue Schritte zur Bewältigung dieser Bedrohung, einschließlich der Gründung einer neuen KI-Agentur, der Einführung regulatorischer „Notfall“-Schutzmaßnahmen und Beschränkungen für die Computerleistung, die zum Trainieren von KI-Modellen verwendet werden kann.
„Es besteht ein klarer und dringender Bedarf für ein Eingreifen der US-Regierung“, schreiben die Autoren in dem Bericht.
Harris, der AI-Manager von Gladstone, sagte, der „beispiellose Zugang“ seines Teams zu Beamten im öffentlichen und privaten Sektor habe zu den verblüffenden Schlussfolgerungen geführt. Gladstone AI sagte, es habe mit Technik- und Führungsteams des ChatGPT-Eigentümers OpenAI, Google DeepMind, der Facebook-Muttergesellschaft Meta und Anthropic gesprochen.
„Unterwegs haben wir einige ernüchternde Dinge gelernt“, sagte Harris in einem Video, das auf der Website von Gladstone AI veröffentlicht wurde und den Bericht ankündigte. „Hinter den Kulissen scheint die Sicherheitslage in der fortgeschrittenen KI im Vergleich zu den nationalen Sicherheitsrisiken, die KI schon bald mit sich bringen könnte, ziemlich unzureichend zu sein.“
In dem Bericht von Gladstone AI heißt es, dass der Wettbewerbsdruck Unternehmen dazu drängt, die Entwicklung von KI „auf Kosten der Sicherheit“ zu beschleunigen, was die Aussicht auf die Möglichkeit erhöht, dass die fortschrittlichsten KI-Systeme „gestohlen“ und gegen die Vereinigten Staaten „als Waffe eingesetzt“ werden.
Die Schlussfolgerungen ergänzen eine wachsende Liste von Warnungen vor den existenziellen Risiken, die von KI ausgehen – auch von einigen der einflussreichsten Persönlichkeiten der Branche.
Vor fast einem Jahr kündigte Geoffrey Hinton, bekannt als „Godfather of AI“, seinen Job bei Google und verriet die Technologie, an deren Entwicklung er beteiligt war. Hinton sagte, dass die Wahrscheinlichkeit, dass KI innerhalb der nächsten drei Jahrzehnte zum Aussterben der Menschheit führen wird, bei 10 % liegt.
Hinton und Dutzende anderer führender KI-Branchen, Akademiker und anderer haben im vergangenen Juni eine Erklärung unterzeichnet, in der es heißt: „Die Eindämmung des Risikos des Aussterbens durch KI sollte eine globale Priorität sein.“
Unternehmensführer machen sich zunehmend Sorgen über diese Gefahren – auch wenn sie Milliarden von Dollar in Investitionen in KI stecken. Letztes Jahr gaben 42 % der auf dem Yale CEO Summit befragten CEOs an, dass KI das Potenzial habe, die Menschheit in fünf bis zehn Jahren zu zerstören.
In seinem Bericht erwähnte Gladstone AI einige der prominenten Personen, die vor den existenziellen Risiken der KI gewarnt haben, darunter Elon Musk, Vorsitzender der Federal Trade Commission Lina Khan und eine ehemalige Top-Führungskraft bei OpenAI.
Laut Gladstone AI äußern einige Mitarbeiter von KI-Unternehmen privat ähnliche Bedenken.
„Eine Person in einem bekannten KI-Labor äußerte die Ansicht, dass es ‚furchtbar schlecht‘ wäre, wenn ein bestimmtes KI-Modell der nächsten Generation jemals als Open Access veröffentlicht würde, weil das Potenzial des Modells überzeugend sei“, heißt es in dem Bericht Fähigkeiten könnten „die Demokratie brechen“, wenn sie jemals in Bereichen wie Wahleinmischung oder Wählermanipulation eingesetzt würden.“
Gladstone sagte, es habe KI-Experten von Frontier Labs gebeten, privat ihre persönlichen Schätzungen der Wahrscheinlichkeit mitzuteilen, dass ein KI-Vorfall im Jahr 2024 zu „globalen und irreversiblen Auswirkungen“ führen könnte. Die Schätzungen lagen demnach zwischen 4 % und sogar 20 % Bericht, der angibt, dass die Schätzungen informell waren und wahrscheinlich einer erheblichen Verzerrung unterworfen waren.
Einer der größten Joker ist die Geschwindigkeit, mit der sich KI entwickelt – insbesondere AGI, eine hypothetische Form von KI mit menschenähnlicher oder sogar übermenschlicher Lernfähigkeit.
In dem Bericht heißt es, dass AGI als „Hauptursache für katastrophale Risiken durch Kontrollverlust“ angesehen wird, und stellt fest, dass OpenAI, Google DeepMind, Anthropic und Nvidia alle öffentlich erklärt haben, dass AGI bis 2028 erreicht werden könnte – obwohl andere glauben, dass dies noch viel, viel weiter entfernt ist .
Gladstone AI stellt fest, dass Meinungsverschiedenheiten über die AGI-Zeitpläne die Entwicklung von Richtlinien und Schutzmaßnahmen erschweren und das Risiko besteht, dass sich die Regulierung „als schädlich erweisen könnte“, wenn sich die Technologie langsamer als erwartet entwickelt.
Ein entsprechendes Dokument, das von Gladstone AI veröffentlicht wurde, warnt davor, dass die Entwicklung von AGI und Fähigkeiten, die AGI nahekommen, „katastrophale Risiken mit sich bringen würde, wie sie die Vereinigten Staaten noch nie erlebt haben“, was „Risiken ähnlicher Massenvernichtungswaffen“ gleichkäme, wenn sie als Waffe eingesetzt würden.
In dem Bericht heißt es beispielsweise, dass KI-Systeme zur Entwicklung und Umsetzung „schwerwiegender Cyberangriffe, die kritische Infrastrukturen lahmlegen können“ eingesetzt werden könnten.
„Ein einfacher verbaler oder typisierter Befehl wie ‚Führen Sie einen nicht nachvollziehbaren Cyberangriff aus, um das nordamerikanische Stromnetz zum Absturz zu bringen‘ könnte eine Reaktion von solcher Qualität hervorrufen, dass sie sich als katastrophal wirksam erweisen würde“, heißt es in dem Bericht.
Zu den weiteren Beispielen, über die sich die Autoren Sorgen machen, gehören „massiv angelegte“ Desinformationskampagnen mit KI, die die Gesellschaft destabilisieren und das Vertrauen in Institutionen untergraben; bewaffnete Roboteranwendungen wie Drohnenschwamangriffe; psychologische Manipulation; bewaffnete biologische und materielle Wissenschaften; und machtgierige KI-Systeme, die nicht kontrollierbar und für den Menschen feindlich sind.
„Forscher erwarten, dass ausreichend fortgeschrittene KI-Systeme so reagieren, dass sie verhindern, dass sie abgeschaltet werden“, heißt es in dem Bericht, „denn wenn ein KI-System abgeschaltet wird, kann es sein Ziel nicht erreichen.“