Sehen Sie: KI-“Pate” Geoffrey Hinton erzählt der BBC von KI-Gefahren, als er Google verlässt
Ein Mann, der weithin als Pate der künstlichen Intelligenz (KI) angesehen wird, hat seinen Job gekündigt und warnt vor den wachsenden Gefahren durch Entwicklungen auf diesem Gebiet.
Der 75-jährige Geoffrey Hinton gab in einer Erklärung gegenüber der New York Times seinen Rücktritt von Google bekannt und sagte, er bedauere nun seine Arbeit.
Er sagte der BBC, einige der Gefahren von KI-Chatbots seien „ziemlich beängstigend“.
„Im Moment sind sie nicht intelligenter als wir, soweit ich das beurteilen kann. Aber ich denke, sie werden es bald sein.“
Dr. Hintons bahnbrechende Forschung zu Deep Learning und neuronalen Netzen hat den Weg für aktuelle KI-Systeme wie ChatGPT geebnet.
Aber der britisch-kanadische Kognitionspsychologe und Informatiker sagte der BBC, dass der Chatbot bald das Informationsniveau eines menschlichen Gehirns überholen könnte.
„Im Moment sehen wir Dinge wie GPT-4, das eine Person in der Menge an Allgemeinwissen, die es hat, in den Schatten stellt, und es stellt sie bei weitem in den Schatten. In Bezug auf die Argumentation ist es nicht so gut, aber es tut es bereits einfache Argumentation.
„Und angesichts der Fortschrittsrate erwarten wir, dass sich die Dinge ziemlich schnell verbessern. Also müssen wir uns darum kümmern.“
In dem Artikel der New York Times bezog sich Dr. Hinton auf „schlechte Schauspieler“, die versuchen würden, KI für „schlechte Dinge“ einzusetzen.
Als er von der BBC gebeten wurde, dies näher zu erläutern, antwortete er: „Dies ist nur eine Art Worst-Case-Szenario, eine Art Alptraumszenario.
„Man kann sich zum Beispiel einen schlechten Schauspieler vorstellen [Russian President Vladimir] Putin beschloss, Robotern die Möglichkeit zu geben, ihre eigenen Teilziele zu erstellen.”
Der Wissenschaftler warnte davor, dass dies schließlich “Unterziele wie ‘Ich muss mehr Kraft bekommen’ schaffen könnte”.
Er fügte hinzu: „Ich bin zu dem Schluss gekommen, dass sich die Art von Intelligenz, die wir entwickeln, sehr von der Intelligenz unterscheidet, die wir haben.
„Wir sind biologische Systeme und dies sind digitale Systeme. Und der große Unterschied besteht darin, dass Sie bei digitalen Systemen viele Kopien desselben Gewichtssatzes haben, dasselbe Modell der Welt.
„Und all diese Kopien können separat lernen, aber ihr Wissen sofort teilen. Es ist also, als hätte man 10.000 Leute und wenn eine Person etwas lernt, wissen es automatisch alle. Und deshalb können diese Chatbots so viel mehr wissen als jede einzelne Person.“
Dr. Hinton sagte auch, es gebe mehrere andere Gründe, seinen Job zu kündigen.
“Einer ist, ich bin 75. Also ist es Zeit, in Rente zu gehen. Ein anderer war, ich möchte eigentlich ein paar gute Dinge über Google sagen. Und sie sind glaubwürdiger, wenn ich nicht für Google arbeite.”
Er betonte, er wolle Google nicht kritisieren und der Tech-Gigant sei “sehr verantwortungsbewusst” vorgegangen.
Sehen Sie: Was ist künstliche Intelligenz?