Der „Godfather of Artificial Intelligence“ hat auf sensationelle Weise bei Google gekündigt und gewarnt, dass die Technologie das Leben, wie wir es kennen, auf den Kopf stellen könnte.
Geoffrey Hinton, 75, wird die Entwicklung der Technologie zugeschrieben, die zum Fundament von KI-Systemen wie ChatGPT und Google Bard wurde.
Aber der Turing-Preisträger sagt jetzt, ein Teil von ihm bereue es, an der Herstellung der Systeme mitgewirkt zu haben, und befürchte, dass er die Verbreitung von Fehlinformationen fördern und Menschen in der Belegschaft ersetzen könnte.
Er sagte, er müsse sich Ausreden einfallen lassen wie „Wenn ich es nicht gebaut habe, müsste es jemand anderes tun“, um zu verhindern, dass er von Schuldgefühlen überwältigt wird.
Er zog Vergleiche mit dem „Vater der Atombombe“ Robert Oppenheimer, der Berichten zufolge von seiner Erfindung verstört war und den Rest seines Lebens dem Stoppen ihrer Verbreitung widmete.
Geoffrey Hinton, 75, der als „Godfather of Artificial Technology“ gilt, sagte, dass ein Teil von ihm es jetzt bereut, an der Herstellung der Systeme mitgewirkt zu haben. Er ist oben abgebildet, als er 2017 auf einem Gipfel sprach, der vom Medienunternehmen Thomson Reuters in Toronto, Kanada, veranstaltet wurde
Es gibt eine große KI-Kluft im Silicon Valley. Kluge Köpfe sind über den Fortschritt der Systeme gespalten – einige sagen, dass es die Menschheit verbessern wird, und andere befürchten, dass die Technologie sie zerstören wird
Im Gespräch mit der New York Times über seinen Rücktritt warnte er davor, dass KI in naher Zukunft das Internet mit falschen Fotos, Videos und Texten überschwemmen werde.
Diese würden einem Standard entsprechen, fügte er hinzu, bei dem der Durchschnittsmensch „nicht mehr wissen könnte, was wahr ist“.
Die Technologie stelle auch ein ernsthaftes Risiko für die „Plackerei“ dar, sagte er, und könne die Karrieren von Menschen auf den Kopf stellen, die als Rechtsanwaltsfachangestellte, persönliche Assistenten und Übersetzer arbeiten.
Einige Mitarbeiter sagen bereits, dass sie es verwenden, um mehrere Jobs für sie abzudecken und Aufgaben wie das Erstellen von Marketingmaterialien und das Abschreiben von Zoom-Meetings zu übernehmen, damit sie nicht zuhören müssen.
„Vielleicht ist das, was in diesen Systemen vor sich geht, tatsächlich viel besser als das, was in den Systemen vor sich geht [human] Gehirn«, sagte er und erklärte seine Befürchtungen.
„Die Idee, dass dieses Zeug tatsächlich klüger werden könnte als Menschen – ein paar Leute haben das geglaubt.
„Aber die meisten Leute dachten, es wäre weit weg. Und ich dachte, es wäre weit weg. Ich dachte, es wäre 30 bis 50 Jahre oder noch länger entfernt.
“Offensichtlich denke ich das nicht mehr.”
Auf die Frage, warum er geholfen habe, eine potenziell gefährliche Technologie zu entwickeln, sagte er: “Ich tröste mich mit der üblichen Ausrede: Wenn ich es nicht getan hätte, hätte es jemand anderes getan.”
Hinton fügte hinzu, dass er Oppenheimer zuvor paraphrasiert hatte, als er in der Vergangenheit mit dieser Frage konfrontiert wurde, und sagte: “Wenn Sie etwas sehen, das technisch süß ist, machen Sie es einfach.”
Hinton beschloss, Google letzten Monat nach einem Jahrzehnt beim Technologieriesen inmitten der Verbreitung von KI-Technologien zu verlassen.
Er hatte ein langes Gespräch mit dem Vorstandsvorsitzenden von Googles Muttergesellschaft Alphabet, Sundar Pichai, bevor er abreiste – obwohl nicht klar ist, was gesagt wurde.
In einer Breitseite an seinen ehemaligen Arbeitgeber warf er Google vor, kein „richtiger Verwalter“ für KI-Technologien zu sein.
In der Vergangenheit habe das Unternehmen potenziell gefährliche Technologien unter Verschluss gehalten, sagte er. Aber es hatte jetzt Vorsicht in den Wind geschlagen, da es mit Microsoft konkurriert – das letzten Monat einen ChatBot zu seiner Suchmaschine Bing hinzufügte.
Der Chefwissenschaftler von Google, Jeff Dean, sagte in einer Erklärung: „Wir bleiben einem verantwortungsvollen Umgang mit KI verpflichtet. Wir lernen kontinuierlich, aufkommende Risiken zu verstehen und gleichzeitig mutig innovativ zu sein.“
Seine Warnung kommt, als das Silicon Valley in einen Bürgerkrieg über die Weiterentwicklung der künstlichen Intelligenz gerät – wobei die größten Köpfe der Welt uneins darüber sind, ob sie die Menschheit erheben oder zerstören wird.
Die Befürchtungen der KI kommen, da Experten vorhersagen, dass sie bis 2045 Singularität erreichen wird, wenn die Technologie die menschliche Intelligenz übertrifft, bis zu der wir sie nicht kontrollieren können
Elon Musk, Apple-Mitbegründer Steve Wozniak und der verstorbene Stephen Hawking gehören zu den bekanntesten Kritikern der KI, die glauben, dass sie ein „tiefgreifendes Risiko für die Gesellschaft und die Menschheit“ darstellt und „katastrophale Auswirkungen“ haben könnte.
Letzten Monat forderten sie sogar eine Pause im „gefährlichen Rennen“, um fortschrittliche KI einzuführen, und sagten, dass mehr Risikobewertungen erforderlich seien.
Aber Bill Gates, My Pichai und der Futurist Ray Kurzweil stehen auf der anderen Seite der Debatte und loben die Technologie als die „wichtigste“ Innovation unserer Zeit.
Sie argumentieren, dass es Krebs heilen, den Klimawandel lösen und die Produktivität steigern könnte.
Hinton hat sich bisher nicht zu der Debatte geäußert und gesagt, er wolle sich nicht äußern, bis er Google offiziell verlassen habe.
Er wurde 2012 berühmt, als er an der Universität von Toronto, Kanada, zusammen mit zwei Studenten ein neuronales Netzwerk entwarf, das Tausende von Fotos analysieren und sich selbst beibringen konnte, gewöhnliche Objekte wie Blumen, Hunde und Autos zu identifizieren.
Google gab später 44 Millionen US-Dollar aus, um das Unternehmen zu erwerben, das von Hinton auf der Grundlage dieser Technologie gegründet wurde.
Die Veröffentlichung von KI-Bots wie ChatGPT (Archivbild) hat in vielen Kreisen zu Forderungen nach einer Überprüfung der Technologie wegen des Risikos geführt, das sie für die Menschheit darstellt
Zu den bereits verfügbaren fortschrittlichen KI-Systemen gehört ChatGPT, für das sich nach seiner Veröffentlichung im November mehr als eine Milliarde Menschen angemeldet haben. Daten zeigen, dass es auch bis zu 100 Millionen aktive monatliche Benutzer hat.
Die von OpenAI mit Sitz in San Francisco gestartete Plattform hat sich weltweit zu einem sofortigen Erfolg entwickelt.
Der Chatbot ist ein großes Sprachmodell, das auf massiven Textdaten trainiert wurde und es ihm ermöglicht, als Reaktion auf eine bestimmte Eingabeaufforderung unheimlich menschenähnlichen Text zu generieren.
Die Öffentlichkeit verwendet ChatGPT, um Forschungsarbeiten, Bücher, Nachrichtenartikel, E-Mails und andere textbasierte Arbeiten zu schreiben, und während viele es eher als virtuellen Assistenten betrachten, sehen viele brillante Köpfe darin das Ende der Menschheit.
Wenn Menschen die Kontrolle über die KI verlieren, wird davon ausgegangen, dass sie die Singularität erreicht hat, was bedeutet, dass sie die menschliche Intelligenz übertroffen hat und unabhängig denken kann.
Die KI würde Menschen nicht mehr brauchen oder ihnen zuhören, wodurch sie Nuklearcodes stehlen, Pandemien auslösen und Weltkriege auslösen könnte.
DeepAI-Gründer Kevin Baragona, der den Brief unterzeichnete, sagte gegenüber DailyMail.com: „Es ist fast wie ein Krieg zwischen Schimpansen und Menschen.
Die Menschen gewinnen offensichtlich, da wir viel klüger sind und fortschrittlichere Technologien einsetzen können, um sie zu besiegen.
“Wenn wir wie die Schimpansen sind, wird uns die KI zerstören oder wir werden ihr versklavt.”