New York (CNN) Geoffrey Hinton, auch bekannt als „Godfather of AI“, entschied, dass er die Technologie, an deren Entwicklung er mitgewirkt hatte, „ankündigen“ musste, nachdem er sich Sorgen darüber gemacht hatte, wie intelligent sie werden würde, sagte er am Dienstag gegenüber CNN.
„Ich bin nur ein Wissenschaftler, der plötzlich erkannt hat, dass diese Dinger schlauer werden als wir“, sagte Hinton am Dienstag in einem Interview mit Jake Tapper von CNN. „Ich möchte eine Art Pfeife blasen und sagen, dass wir uns ernsthaft Gedanken darüber machen sollten, wie wir verhindern können, dass diese Dinge die Kontrolle über uns erlangen.“
Hintons bahnbrechende Arbeit an neuronalen Netzen prägte künstliche Intelligenzsysteme, die viele der heutigen Produkte antreiben. Am Montag machte er Schlagzeilen, weil er seine Position bei Google, wo er ein Jahrzehnt lang gearbeitet hatte, aufgegeben hatte, um offen über seine wachsenden Bedenken in Bezug auf die Technologie zu sprechen.
In einem Interview am Montag mit der New York Times, die als erste über seinen Umzug berichtete, sagte Hinton, er sei besorgt über das Potenzial von KI, Arbeitsplätze zu vernichten und eine Welt zu schaffen, in der viele „nicht mehr wissen können, was wahr ist“. Er wies auch auf das atemberaubende Tempo des Fortschritts hin, das weit über das hinausgeht, was er und andere erwartet hatten.
„Wenn es viel klüger wird als wir, wird es sehr gut in der Manipulation sein, weil es das von uns gelernt hat, und es gibt nur sehr wenige Beispiele dafür, dass ein intelligenteres Ding von einem weniger intelligenten Ding gesteuert wird“, sagte Hinton zu Tapper am Dienstag.
„Es weiß, wie man programmiert, also findet es Möglichkeiten, die Beschränkungen zu umgehen, die wir ihm auferlegt haben. Es findet Wege, Menschen zu manipulieren, damit sie tun, was es will.“
Hinton ist nicht der einzige Technologieführer, der Bedenken hinsichtlich KI äußert. Eine Reihe von Mitgliedern der Gemeinschaft unterzeichnete im März einen Brief, in dem Labore für künstliche Intelligenz aufgefordert wurden, das Training der leistungsstärksten KI-Systeme für mindestens sechs Monate einzustellen, und nannten „tiefgreifende Risiken für die Gesellschaft und die Menschheit“.
Der Brief, der vom Future of Life Institute, einer von Elon Musk unterstützten gemeinnützigen Organisation, veröffentlicht wurde, kam nur zwei Wochen, nachdem OpenAI GPT-4 angekündigt hatte, eine noch leistungsfähigere Version der Technologie, die den viralen Chatbot ChatGPT antreibt. In ersten Tests und einer Unternehmensdemo wurde GPT-4 verwendet, um Klagen zu entwerfen, standardisierte Prüfungen zu bestehen und eine funktionierende Website aus einer handgezeichneten Skizze zu erstellen.
Apple-Mitbegründer Steve Wozniak, einer der Unterzeichner des Briefes, erschien am Dienstag auf „CNN This Morning“ und äußerte Bedenken hinsichtlich seines Potenzials zur Verbreitung von Fehlinformationen.
„Das Austricksen wird viel einfacher für diejenigen, die Sie austricksen wollen“, sagte Wozniak gegenüber CNN. „Wir nehmen in dieser Hinsicht keine wirklichen Änderungen vor – wir gehen nur davon aus, dass die Gesetze, die wir haben, dafür sorgen werden.“
Wozniak sagte auch, dass wahrscheinlich „irgendeine Art“ von Regulierung benötigt wird.
Hinton seinerseits sagte gegenüber CNN, er habe die Petition nicht unterschrieben. „Ich glaube nicht, dass wir den Fortschritt aufhalten können“, sagte er. „Ich habe die Petition nicht unterschrieben, die besagt, dass wir aufhören sollten, an KI zu arbeiten, denn wenn die Menschen in Amerika aufhören, würden die Menschen in China es nicht tun.“
Aber er gestand, keine klare Antwort darauf zu haben, was stattdessen zu tun sei.
„Mir ist nicht klar, dass wir dieses Problem lösen können“, sagte Hinton zu Tapper. „Ich glaube, wir sollten uns große Mühe geben, über Wege nachzudenken, wie wir das Problem lösen können. Ich habe derzeit keine Lösung.“