Ein britischer Informatiker, der den Spitznamen „der Pate der KI“ erhielt, warnte davor, dass die Gefahren der künstlichen Intelligenz, die in Filmen wie „Terminator“ berühmt wurden, eher zur Realität als zur Fiktion werden könnten.
„Ich denke, in fünf Jahren könnte es durchaus in der Lage sein, besser zu argumentieren als wir“, sagte Geoffrey Hinton, ein britischer Informatiker und Kognitionspsychologe, laut einem Bericht von Yahoo News in einem Interview mit „60 Minutes“.
Hinton, der durch seine Arbeit am Rahmenwerk für KI bekannt wurde, mahnte zur Vorsicht bei der Weiterentwicklung der KI-Technologie und stellte die Frage, ob Menschen die Technologie, die derzeit eine rasante Entwicklung erlebt, vollständig verstehen können.
„Ich denke, wir nähern uns einer Zeit, in der wir zum ersten Mal Dinge haben, die intelligenter sind als wir selbst“, sagte Hinton.
Die USA und nicht China sollten bei der KI die Führung übernehmen
Kinder interagieren am 10. Januar 2023 im China Science and Technology Museum in Peking, China, mit einem KI-Roboter. (Huang Yong/VCG über Getty Images)
Hinton argumentierte, dass Menschen zwar den Algorithmus entwickeln, mit dem KI-Tools lernen, sie aber kaum verstehen, wie dieses Lernen tatsächlich stattfindet. Sobald die Konzepte, die die KI zu lernen beginnt, immer komplizierter werden, ist es laut Hinton genauso schwierig zu verstehen, was die Technologie denkt, wie die Gedanken eines Menschen zu lesen.
„Wir haben ungefähr eine sehr gute Vorstellung davon, was es tut“, sagte Hinton. „Aber sobald es wirklich kompliziert wird, wissen wir nicht mehr, was eigentlich vor sich geht, genauso wenig wie wir wissen, was in unserem Gehirn vorgeht.“
Der Informatiker warnte davor, dass Menschen die Kontrolle über die KI verlieren könnten, wenn die Technologie anfängt, „ihren eigenen Computercode zu schreiben, um sich selbst zu modifizieren“.
„Das ist etwas, worüber wir uns ernsthaft Sorgen machen müssen“, sagte Hinton.
Diese Realität wirft gefährliche Probleme auf, argumentierte Hinton und sagte, er sehe keine Möglichkeit für den Menschen, zu garantieren, dass die Technologie weiterhin sicher sei.
Pentagon will eine „Flotte“ von KI-Drohnen entwickeln, Systeme zur Bekämpfung Chinas: Bericht
„Wir treten in eine Zeit großer Unsicherheit ein, in der wir mit Dingen konfrontiert werden, die wir noch nie zuvor getan haben“, sagte er. „Und normalerweise macht man etwas falsch, wenn man sich zum ersten Mal mit etwas völlig Neuem beschäftigt. Und wir können es uns nicht leisten, bei diesen Dingen etwas falsch zu machen.“
Eine solche Unsicherheit könnte sogar zu Gefahren führen, die noch vor wenigen Jahren scheinbar sicher im Bereich der Fiktion lagen, einschließlich einer KI-Übernahme der Menschheit.
Der Film „Terminator 2: Judgement Day“ unter der Regie von James Cameron. Hier zu sehen: Arnold Schwarzenegger (als T-800 Terminator). Kinostart am 3. Juli 1991. (CBS über Getty Images)
„Ich sage nicht, dass es passieren wird. Wenn wir sie davon abhalten könnten, es jemals zu wollen, wäre das großartig. Aber es ist nicht klar, dass wir sie davon abhalten können, es jemals zu wollen“, sagte Hinton.
Christopher Alexander, Chief Analytics Officer der Pioneer Development Group, sagte gegenüber Fox News Digital, dass er viele der gleichen Bedenken wie Hinton teile, einschließlich der Befürchtungen darüber, was mit menschlichen Arbeitskräften passieren wird, die durch KI verdrängt werden.
Chinas KI-Dominanz sollte für uns alle ein Weckruf sein
„Die Fähigkeit der KI, die Arbeit eines Routinearbeiters zu erledigen, wird die erste Schockwelle sein, da es eine sehr reale Perspektive gibt, dass eine große Zahl von Menschen nicht mehr erwerbsfähig ist“, sagte Alexander und bemerkte, dass Hinton dies nicht sagte dass KI „die Menschheit beherrschen“ würde, aber Fähigkeiten erlangen könnte, die die menschliche Zivilisation „dauerhaft verändern“ würden. „Er hat recht, wenn er anmerkt, dass der Mensch zur zweitstärksten Intelligenz auf dem Planeten werden könnte.“
Die Gefahr bedeute, dass der Kongress jetzt mit der Regulierung handeln sollte, sagte Jon Schweppe, politischer Direktor des American Principles Project, gegenüber Fox News Digital.
„Man fragt sich: Hat einer dieser KI-Enthusiasten ein Buch gelesen?“ Schweppe befragt. „Die Ängste vor den Gefahren der KI sind absolut berechtigt. Und genau wie die fiktiven Charaktere in diesen Geschichten scheinen unsere Tech-Titanen von selbstbewusster Hybris erfüllt zu sein und davon überzeugt zu sein, dass nichts schiefgehen wird. Das können wir uns nicht leisten.“ Risiko. Der Kongress muss KI-Schutzmaßnahmen erlassen, um die Menschheit zu schützen.“
Phil Siegel, der Gründer des Center for Advanced Preparedness and Threat Response Simulation (CAPTS), stimmte zu, dass einige von Hintons Bedenken „berechtigt“ seien, obwohl er argumentierte, dass die Hauptsorge nicht darin bestehe, dass die Technologie „die Menschheit überwältigen“ werde.
„Ich glaube nicht, dass diese Algorithmen empfindungsfähig sind, daher ist die Sorge, dass sie von sich aus die Menschheit überwältigen könnten, nicht die Hauptsorge“, sagte Siegel. „Allerdings spielt das möglicherweise keine große Rolle, da schlechte Akteure, die empfindungsfähig sind, durchaus in der Lage sein werden, diese Systeme zu nutzen, um der Menschheit Schaden zuzufügen und sie zumindest zu ‚programmieren‘, schlechte Dinge zu tun.“
KLICKEN SIE HIER FÜR WEITERE US-NEWS
Modernste Anwendungen der künstlichen Intelligenz werden im Pavillon für künstliche Intelligenz des Zhangjiang Future Park während einer staatlich organisierten Medientour am 18. Juni 2021 in Shanghai, China, gezeigt. (Andrea Verdelli/Getty Images)
Unabhängig davon, wo die Bedrohungen ihren Ursprung haben, glaubt Siegel, dass es für die Menschen ratsam ist, sich „auf die unvorhersehbaren Folgen von KI-Fortschritten vorzubereiten“, und zwar nicht nur durch Regulierung, sondern auch durch den Einsatz „der aktuellen Verteidigungsinstrumente, die Vorbereitung auf potenzielle Bedrohungen durch Übungen gegen sie usw.“ Entwicklung neuer Fähigkeiten, um die Wahrscheinlichkeit zu erhöhen, dass wir reagieren und uns gut schützen.“
Während seines Fernsehinterviews sagte Hinton, die „Hauptbotschaft“, die er vermitteln wollte, sei, dass es immer noch „enorme Unsicherheit“ über die Zukunft der KI-Entwicklung gebe.
„Diese Dinge verstehen, und weil sie verstehen, müssen wir gründlich darüber nachdenken, was als nächstes kommt, und wir wissen es einfach nicht“, sagte Hinton.
Aber Samuel Hammond, ein leitender Ökonom bei der Foundation for American Innovation, stimmte zu, dass die KI-Technologie in den nächsten fünf Jahren in der Lage sein wird, besser zu denken als der Mensch, und dass große Unsicherheit darüber besteht, „was als nächstes passiert“, obwohl er auf eine aktuelle Studie verwies Durchbruch in der Forschung, der darauf hindeuten könnte, dass die schlimmsten Ängste der Menschheit in den Kinos bleiben könnten.
„Ein aktueller Durchbruch in der KI-Interpretierbarkeitsforschung legt nahe, dass das Risiko, dass KI die Welt erobert oder ihre Benutzer täuscht, möglicherweise übertrieben ist“, sagte Hammond gegenüber Fox News Digital. „Mechanistische Interpretierbarkeit ist für das KI-Gehirn Neurowissenschaft, nur können wir im Gegensatz zum menschlichen Gehirn alles, was das KI-Gehirn tut, direkt messen und präzise Experimente durchführen.“
KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN
Hammond wies darauf hin, dass solche Untersuchungen gezeigt haben, dass Menschen in der Lage sein werden, „die Gedanken der KI zu lesen“, wodurch Menschen erkennen können, ob sie lügt, und Entwicklern die Möglichkeit geben, potenziell gefährliche Verhaltensweisen zu kontrollieren.
„Die Risiken durch schlechte Akteure und umfassendere gesellschaftliche Störungen bleiben bestehen und es gibt keine einfachen Lösungen“, sagte Hammond. „Institutionelle Anpassung und Koevolution mögen der wichtigste Weg sein, um sicherzustellen, dass KI zu einer besseren Welt führt, aber leider widersetzt sich unsere Regierung zutiefst Reformen.“