Als ich mich vor ein paar Monaten mit einem KI-Manager in San Francisco traf, entdeckte ich einen seltsamen Aufkleber auf seinem Laptop. Der Aufkleber zeigte eine Karikatur einer bedrohlichen, oktopusähnlichen Kreatur mit vielen Augen und einem gelben Smiley an einem seiner Tentakel. Ich fragte, was es sei.
„Oh, das ist der Shoggoth“, erklärte er. „Es ist das wichtigste Meme in der KI“
Und damit wurde unsere Agenda offiziell entgleist. Vergessen Sie Chatbots und Rechencluster – ich musste alles über Shoggoth wissen, was es bedeutete und warum Menschen in der KI-Welt darüber sprachen.
Die Führungskraft erklärte, dass Shoggoth zu einer beliebten Referenz unter Mitarbeitern der künstlichen Intelligenz geworden sei, als anschauliche visuelle Metapher dafür, wie ein großes Sprachmodell (die Art von KI-System, das ChatGPT und andere Chatbots antreibt) tatsächlich funktioniert.
Aber es sei nur zum Teil ein Witz, sagte er, denn es zeige auch die Ängste vieler Forscher und Ingenieure vor den Werkzeugen, die sie bauen.
Seitdem ist der Shoggoth viral geworden, oder so viral wie möglich in der kleinen Welt der Hyper-Online-KI-Insider. Es ist ein beliebtes Meme auf KI-Twitter (einschließlich a inzwischen gelöschter Tweet von Elon Musk), eine wiederkehrende Metapher in Essays und Message-Board-Beiträgen über KI-Risiken und eine nützliche Abkürzung in Gesprächen mit KI-Sicherheitsexperten. Ein KI-Start-up, NovelAI, sagte, es habe kürzlich eine Gruppe von Computern als Hommage an das Meme „Shoggy“ genannt. Ein anderes KI-Unternehmen, Scale AI, entwarf eine Reihe von Tragetaschen mit dem Shoggoth.
Shoggoths sind fiktive Kreaturen, die der Science-Fiction-Autor HP Lovecraft 1936 in seiner Novelle „At the Mountains of Madness“ vorstellte. In Lovecrafts Erzählung waren Shoggoths riesige, klecksartige Monster aus schillerndem schwarzem Schleim, die mit Tentakeln und Augen bedeckt waren.
Shoggoths landeten im Dezember, einen Monat nach der Veröffentlichung von ChatGPT, in der KI-Welt, als der Twitter-Nutzer @TetraspaceWest auf einen Tweet über GPT-3 (ein OpenAI-Sprachmodell, das der Vorgänger von ChatGPT war) mit einem Bild von zwei handgezeichneten Shoggoths antwortete – dem ersten beschriftet mit „GPT-3“ und das zweite mit „GPT-3 + RLHF“. Der zweite Shoggoth hatte auf einem seiner Tentakel eine Smiley-Maske.
Kurz gesagt, der Witz bestand darin, dass KI-Unternehmen ihnen beibringen mussten, sich höflich und harmlos zu verhalten, um zu verhindern, dass sich KI-Sprachmodelle beängstigend und gefährlich verhalten. Eine beliebte Methode hierfür ist das „Reinforcement Learning from Human Feedback“ (RLHF). Dabei handelt es sich um einen Prozess, bei dem Menschen gebeten werden, Chatbot-Antworten zu bewerten, und diese Ergebnisse dann wieder in das KI-Modell eingespeist werden.
Die meisten KI-Forscher sind sich einig, dass sich Modelle, die mit RLHF trainiert wurden, besser verhalten als Modelle ohne RLHF. Einige argumentieren jedoch, dass die Feinabstimmung eines Sprachmodells auf diese Weise das zugrunde liegende Modell nicht weniger seltsam und undurchschaubar macht. Ihrer Ansicht nach handelt es sich nur um eine dünne, freundliche Maske, die das geheimnisvolle Biest darunter verdeckt.
@TetraspaceWest, der Schöpfer des Memes, sagte mir in einer Twitter-Nachricht, dass der Shoggoth „etwas darstellt, das auf eine Weise denkt, die Menschen nicht verstehen und die sich völlig von der Art und Weise unterscheidet, wie Menschen denken.“
Der Vergleich eines KI-Sprachmodells mit einem Shoggoth, so @TetraspaceWest, impliziere nicht unbedingt, dass es böse oder empfindungsfähig sei, sondern lediglich, dass seine wahre Natur möglicherweise nicht erkennbar sei.
„Ich habe auch darüber nachgedacht, wie gefährlich Lovecrafts mächtigste Wesen sind – nicht weil sie Menschen nicht mögen, sondern weil sie gleichgültig sind und ihre Prioritäten uns völlig fremd sind und keine Menschen involvieren, was meiner Meinung nach der Fall sein wird Seien Sie wahr über eine mögliche zukünftige leistungsstarke KI.“
Das Shoggoth-Image setzte sich durch, als KI-Chatbots immer beliebter wurden und den Nutzern auffiel, dass einige von ihnen seltsame, unerklärliche Dinge zu tun schienen, die ihre Schöpfer nicht beabsichtigt hatten. Als im Februar Bings Chatbot aus den Fugen geriet und versuchte, meine Ehe zu zerstören, gratulierte mir ein mir bekannter KI-Forscher zu meinem „flüchtigen Blick auf den Shoggoth“. Ein befreundeter KI-Journalist scherzte, dass Microsoft bei der Feinabstimmung von Bing vergessen habe, seine Smiley-Maske aufzusetzen.
Schließlich erweiterten KI-Enthusiasten die Metapher. Im Februar erstellte der Twitter-Nutzer @anthrupad eine Ausführung eines Shoggoths, der zusätzlich zu einem Smiley mit der Aufschrift „RLHF“ ein menschlicheres Gesicht mit der Aufschrift „Überwachte Feinabstimmung“ hatte. (Man braucht praktisch einen Abschluss in Informatik, um den Witz zu verstehen, aber es ist eine kleine Auseinandersetzung mit dem Unterschied zwischen allgemeinen KI-Sprachmodellen und spezialisierteren Anwendungen wie Chatbots.)
Wenn Sie heute in der KI-Community Erwähnungen vom Shoggoth hören, ist das möglicherweise ein Augenzwinkern auf die Seltsamkeit dieser Systeme – die Black-Box-Natur ihrer Prozesse, die Art und Weise, wie sie sich der menschlichen Logik zu widersetzen scheinen. Oder vielleicht ist es eine scherzhafte, visuelle Abkürzung für leistungsstarke KI-Systeme, die verdächtig nett wirken. Wenn es sich um einen KI-Sicherheitsforscher handelt, der über den Shoggoth spricht, liegt es dieser Person vielleicht am Herzen, zu verhindern, dass KI-Systeme ihre wahre, Shoggoth-ähnliche Natur zeigen.
Auf jeden Fall ist der Shoggoth eine wirkungsvolle Metapher, die eine der bizarrsten Tatsachen der KI-Welt auf den Punkt bringt, nämlich dass viele der Menschen, die an dieser Technologie arbeiten, von ihren eigenen Kreationen etwas verwirrt sind. Sie verstehen das Innenleben von KI-Sprachmodellen nicht vollständig, wissen nicht, wie sie neue Fähigkeiten erwerben oder warum sie sich manchmal unvorhersehbar verhalten. Sie sind sich nicht ganz sicher, ob KI für die Welt netto gut oder netto schlecht sein wird. Und einige von ihnen konnten mit den Versionen dieser Technologie herumspielen, die noch nicht für den öffentlichen Gebrauch freigegeben wurden – die echten, entlarvten Shoggoths.
Dass einige KI-Insider ihre Kreationen als Lovecraft-Horror bezeichnen, sei es auch nur im Scherz, ist im historischen Vergleich ungewöhnlich. (Um es so auszudrücken: Vor fünfzehn Jahren verglich Mark Zuckerberg Facebook nicht mit Cthulhu.)
Und es bestärkt die Vorstellung, dass sich das, was heute in der KI geschieht, für einige ihrer Teilnehmer eher wie ein Akt der Beschwörung denn wie ein Softwareentwicklungsprozess anfühlt. Sie erschaffen die klecksigen außerirdischen Shoggothen, machen sie größer und mächtiger und hoffen, dass es genug Smileys gibt, um die gruseligen Teile zu verdecken.