Es stellt sich heraus, dass die heutige KI-Landschaft auf – was wissen Sie schon – Angst, Eifersucht und intensiven kapitalistischen Ehrgeiz zurückzuführen ist. E-Mails, die im Kartellverfahren des Justizministeriums gegen Google aufgedeckt wurden und erstmals berichtet wurden von Geschäftseingeweihter, zeigen Microsoft-Führungskräfte, die ihre Besorgnis und ihren Neid über Googles KI-Vorsprung zum Ausdruck bringen. Dies löste eine Dringlichkeit aus, die dazu führte, dass der Windows-Hersteller zunächst eine Milliarde Dollar in seinen mittlerweile unverzichtbaren Partner OpenAI investierte.
In einem stark redigierten E-Mail-Thread aus dem Jahr 2019 mit dem Titel „Gedanken zu OpenAI“ leitet Microsoft-CEO Satya Nadella eine lange Nachricht von CTO Kevin Scott an CFO Amy Hood weiter. „Sehr gute E-Mail, die erklärt, warum ich möchte, dass wir das tun … und auch, warum wir dann dafür sorgen werden, dass unsere Infra-Leute dies umsetzen“, schrieb Nadella.
Scott schrieb, er sei „sehr, sehr besorgt“ über die schnell wachsenden KI-Fähigkeiten von Google. Er sagt, er habe die „Gameplay-Stunts“ des Unternehmens zunächst abgetan und sich dabei wahrscheinlich auf die AlphaGo-Modelle von Google bezogen. Einer von ihnen besiegte 2017 den Go-Weltmeister Ke Jie, eine damals bemerkenswerte Leistung. (Die späteren Modelle von Google übertrafen dieses Modell und machten eine menschliche Schulung völlig überflüssig.)
Aber Scott sagt, es sei „ein Fehler“ gewesen, den Spielfortschritt von Google abzutun. „Als sie die gesamte Infrastruktur, die sie aufgebaut hatten, für den Bau mitnahmen [natural language] Als wir Modelle entwickelten, die wir nicht einfach reproduzieren konnten, begann ich, die Dinge ernster zu nehmen“, schrieb Scott. „Und als ich versuchte herauszufinden, wo zwischen Google und uns beim Modelltraining all die Leistungslücken lagen, machte ich mir große, große Sorgen.“
Scott erzählt, wie Microsoft Schwierigkeiten hatte, Googles BERT-large zu kopieren, ein KI-Modell, das die Bedeutung und den Kontext von Wörtern in einem Satz entschlüsselt. Scott machte dafür die Infrastruktursprünge verantwortlich, die sein Konkurrent gemacht hatte – und Microsoft nicht.
„Es stellte sich heraus, dass es für uns nicht einfach war, BERT-large einfach zu replizieren. Obwohl wir die Vorlage für das Modell hatten, dauerte es etwa sechs Monate, bis wir das Modell trainiert hatten, da unsere Infrastruktur der Aufgabe nicht gewachsen war“, schrieb der CTO von Microsoft. „Google hatte BERT schon mindestens sechs Monate davor, also hatten sie in der Zeit, die wir brauchten, um die Fähigkeit zum Trainieren eines 340-Millionen-Parameter-Modells zusammenzubringen, ein Jahr Zeit, um herauszufinden, wie wir es in die Produktion bringen und weitermachen konnten.“ zu größeren, interessanteren Modellen.“
Er bewunderte und beneidete auch die Funktionen zur automatischen Vervollständigung von Google Mail in Google Mail und sagte, sie würden „erschreckend gut“ werden. Er kommentierte, dass Microsoft „in puncto Leistung mehrere Jahre hinter der Konkurrenz zurückgeblieben sei“. [machine learning] Skala.” Er kommentierte das „interessante“ Wachstum von OpenAI, DeepMind und Google Brain.
Scott lobte die „sehr klugen“ Leute von Microsoft in seinen Teams für maschinelles Lernen, sagte aber, ihre Ambitionen seien gebremst worden. „Aber die Deep-Learning-Kernteams in jedem dieser größeren Teams sind sehr klein, und ihre Ambitionen wurden ebenfalls eingeschränkt, was bedeutet, dass sie, selbst wenn wir beginnen, sie mit Ressourcen zu versorgen, noch einen Lernprozess durchlaufen müssen, um zu wachsen.“ “, schrieb Scott. „Und in Bezug auf den ML-Umfang liegen wir mehrere Jahre hinter der Konkurrenz.“
Nachdem Hood darauf hingewiesen hatte, dass Scotts Bedenken lauteten: „Warum ich möchte, dass wir das tun“, also in OpenAI investieren, kam das Unternehmen den Wünschen seines CEO nach. Microsoft investierte 2019 eine Milliarde Dollar in das von Sam Altman geführte Startup, und der Rest ist eine sich schnell ändernde Geschichte. (Mittlerweile wurden 13 Milliarden US-Dollar investiert.) Es handelt sich um eine Technologie, die einige unglaubliche Dinge bewirkt, aber gleichzeitig den Arbeitsmarkt auszuhöhlen droht und Propagandisten ihre bislang mächtigsten Werkzeuge an die Hand gibt, in einem Zeitalter ohnehin schon grassierender Desinformation.