Der KI-Pionier Geoffrey Hinton, bekannt für seine revolutionäre Arbeit in den Bereichen Deep Learning und neuronale Netzforschung, hat kürzlich seine Besorgnis über die schnellen Fortschritte in der KI und die möglichen Auswirkungen geäußert.
Angesichts seiner Beobachtungen von neuen großen Sprachmodellen wie GPT-4 warnt Hinton vor mehreren Schlüsselproblemen:
- Maschinen, die die menschliche Intelligenz übertreffen: Hinton glaubt, dass KI-Systeme wie GPT-4 auf dem Weg sind, viel intelligenter zu sein als ursprünglich angenommen, und möglicherweise über bessere Lernalgorithmen als Menschen verfügen.
- Risiken, dass KI-Chatbots von „bösen Akteuren“ ausgenutzt werden: Hinton hebt die Gefahren der Verwendung intelligenter Chatbots hervor, um Fehlinformationen zu verbreiten, Wähler zu manipulieren und mächtige Spambots zu erstellen.
- Lernfähigkeiten mit wenigen Schüssen: KI-Modelle können neue Aufgaben mit nur wenigen Beispielen lernen, sodass Maschinen neue Fähigkeiten in einer Geschwindigkeit erwerben können, die mit der von Menschen vergleichbar ist oder diese sogar übertrifft.
- Existenzielles Risiko durch KI-Systeme: Hinton warnt vor Szenarien, in denen KI-Systeme ihre eigenen Teilziele schaffen und nach mehr Macht streben, indem sie die menschliche Wissensakkumulation und -teilungsfähigkeiten übertreffen.
- Auswirkungen auf die Arbeitsmärkte: KI und Automatisierung können Arbeitsplätze in bestimmten Branchen verdrängen, wobei das verarbeitende Gewerbe, die Landwirtschaft und das Gesundheitswesen besonders betroffen sind.
In diesem Artikel befassen wir uns eingehender mit Hintons Bedenken, seiner Abkehr von Google, um sich auf die ethischen und Sicherheitsaspekte der KI-Entwicklung zu konzentrieren, und der Bedeutung einer verantwortungsvollen KI-Entwicklung für die Gestaltung der Zukunft der Beziehungen zwischen Mensch und KI.
Hintons Abkehr von Google und ethischer KI-Entwicklung
In seinem Bestreben, die ethischen und sicherheitsrelevanten Aspekte rund um KI anzusprechen, beschloss Hinton, seine Position bei Google aufzugeben.
Dies gibt ihm die Freiheit, seine Bedenken offen zu äußern und sich mehr philosophischen Arbeiten zu widmen, ohne die Einschränkungen durch Unternehmensinteressen.
Hinton erklärt in einem Interview mit MIT Technology Review:
„Ich möchte über KI-Sicherheitsprobleme sprechen, ohne mir Gedanken darüber machen zu müssen, wie sie mit dem Geschäft von Google interagiert. Solange ich von Google bezahlt werde, kann ich das nicht.“
Hintons Weggang markiert eine Verlagerung seines Fokus auf die ethischen und Sicherheitsaspekte von KI. Er strebt eine aktive Teilnahme an laufenden Dialogen über die verantwortungsvolle Entwicklung und den Einsatz von KI an.
Hinton nutzt sein Fachwissen und seinen Ruf und beabsichtigt, zur Entwicklung von Rahmenbedingungen und Richtlinien beizutragen, die sich mit Themen wie Voreingenommenheit, Transparenz, Rechenschaftspflicht, Datenschutz und Einhaltung ethischer Grundsätze befassen.
GPT-4 & schlechte Schauspieler
Während eines kürzlichen Interviews äußerte Hinton Bedenken hinsichtlich der Möglichkeit, dass Maschinen die menschliche Intelligenz übertreffen könnten. Die beeindruckenden Fähigkeiten von GPT-4entwickelt von OpenAI und Anfang dieses Jahres veröffentlicht, haben Hinton dazu veranlasst, seine früheren Überzeugungen neu zu bewerten.
Er glaubt, dass Sprachmodelle wie GPT-4 auf dem Weg sind, viel intelligenter zu sein als ursprünglich angenommen, und möglicherweise über bessere Lernalgorithmen verfügen als Menschen.
Hinton sagt im Interview:
„Unser Gehirn hat 100 Billionen Verbindungen. Große Sprachmodelle haben bis zu einer halben Billion, höchstens eine Billion. Doch GPT-4 weiß Hunderte Male mehr als jede einzelne Person. Vielleicht hat es tatsächlich einen viel besseren Lernalgorithmus als wir.“
Hintons Bedenken drehen sich hauptsächlich um die erheblichen Unterschiede zwischen Maschinen und Menschen. Er vergleicht die Einführung großer Sprachmodelle mit einer außerirdischen Invasion und betont ihre überlegenen Sprachkenntnisse und -kenntnisse im Vergleich zu jedem Individuum.
Hinton sagt im Interview:
„Diese Dinge sind völlig anders als wir. Manchmal denke ich, es ist, als wären Aliens gelandet und die Leute hätten es nicht bemerkt, weil sie sehr gut Englisch sprechen.“
Hinton warnt vor den Risiken, dass KI-Chatbots intelligenter werden als Menschen und Wesen von „schlechten Schauspielern“ ausgenutzt.
In dem Interview warnt er davor, dass diese Chatbots verwendet werden könnten, um Fehlinformationen zu verbreiten, Wähler zu manipulieren und mächtige Spambots zu erstellen.
„Schauen Sie, hier ist eine Möglichkeit, wie alles schiefgehen könnte. Wir wissen, dass viele der Leute, die diese Tools nutzen wollen, schlechte Schauspieler wie Putin oder DeSantis sind. Sie wollen sie nutzen, um Kriege zu gewinnen oder Wähler zu manipulieren.“
Wenig-Schuss-Lernen und KI-Überlegenheit
Ein weiterer Aspekt, der Hinton beunruhigt, ist die Leistungsfähigkeit großer Sprachmodelle Lernen in wenigen Schüssen.
Diese Modelle können mit einigen Beispielen trainiert werden, um neue Aufgaben auszuführen, sogar Aufgaben, für die sie nicht direkt trainiert wurden.
Diese bemerkenswerte Lernfähigkeit macht die Geschwindigkeit, mit der Maschinen neue Fähigkeiten erwerben, mit der des Menschen vergleichbar oder übertrifft sie sogar.
Hinton sagt im Interview:
“Menschen[‘s brains] schien eine Art Magie zu haben. Nun, diese Argumentation ist hinfällig, sobald Sie eines dieser großen Sprachmodelle nehmen und ihm beibringen, etwas Neues zu tun. Es kann neue Aufgaben extrem schnell erlernen.“
Hintons Bedenken gehen über die unmittelbaren Auswirkungen auf Arbeitsmärkte und Branchen hinaus.
Er hebt die „existenzielles Risiko“ was passiert, wenn KI-Systeme intelligenter werden als Menschen, und warnen vor Szenarien, in denen KI-Systeme ihre eigenen Unterziele schaffen und nach mehr Macht streben.
Hinton liefert ein Beispiel dafür, wie KI-Systeme bei der Entwicklung von Teilzielen schief gehen können:
„Nun, hier ist ein Teilziel, das in der Biologie fast immer hilft: mehr Energie bekommen. Das erste, was passieren könnte, ist, dass diese Roboter sagen werden: „Lasst uns mehr Leistung bekommen. Leiten wir den ganzen Strom zu meinen Chips um.’ Ein weiteres tolles Teilziel wäre es, mehr Kopien von sich selbst anzufertigen. Hört sich das gut an?”
Auswirkungen von KI auf Arbeitsmärkte und Umgang mit Risiken
Hinton weist darauf hin Auswirkungen von KI auf Arbeitsplätze ist eine große Sorge.
KI und Automatisierung könnten sich wiederholende und alltägliche Aufgaben übernehmen und in einigen Sektoren zum Verlust von Arbeitsplätzen führen.
Fertigungs- und Fabrikmitarbeiter könnten von der Automatisierung hart getroffen werden.
Roboter und KI-gesteuerte Maschinen nehmen in der Fertigung zu, die riskante und sich wiederholende menschliche Jobs übernehmen könnten.
Die Automatisierung schreitet auch in der Landwirtschaft voran, mit automatisierten Aufgaben wie Pflanzen, Ernten und Pflanzenüberwachung.
Im Gesundheitswesen können bestimmte Verwaltungsaufgaben automatisiert werden, aber Rollen, die menschliche Interaktion und Mitgefühl erfordern, werden mit geringerer Wahrscheinlichkeit vollständig durch KI ersetzt.
In Summe
Hintons Besorgnis über die schnellen Fortschritte in der KI und ihre möglichen Auswirkungen unterstreichen die Notwendigkeit einer verantwortungsvollen KI-Entwicklung.
Sein Abschied von Google zeigt sein Engagement, Sicherheitsüberlegungen anzugehen, einen offenen Dialog zu fördern und die Zukunft der KI so zu gestalten, dass das Wohlergehen der Menschheit gewährleistet ist.
Obwohl er nicht mehr bei Google ist, spielen Hintons Beiträge und Expertise weiterhin eine entscheidende Rolle bei der Gestaltung des KI-Bereichs und der Leitung seiner ethischen Entwicklung.
Ausgewähltes Bild, das vom Autor mit Midjourney erstellt wurde