Letztes Jahr erhielt das Unternehmen einen Auftrag über 249 Millionen US-Dollar für die Lieferung einer Reihe von KI-Technologien an das Verteidigungsministerium. Zu seinen Einzelkunden zählt Scale auch die Armee, die Luftwaffe, die Marine Corps University und den Militärlastwagenhersteller Oshkosh.
Im Mai war Scale das erste KI-Unternehmen, das ein „großes Sprachmodell“ – die Technologie hinter Chatbots wie ChatGPT – in einem geheimen Netzwerk einsetzte, nachdem es einen Vertrag mit dem XVIII. Airborne Corps der Armee unterzeichnet hatte. Der Chatbot von Scale, bekannt als „Donovan“, soll Informationen zusammenfassen und Kommandanten helfen, schneller Entscheidungen zu treffen.
Für Wang, der sich selbst als „China-Falke“ bezeichnet, steht viel auf dem Spiel: Ohne von privaten Technologieunternehmen entwickelte KI werden die Vereinigten Staaten ihren technologischen Vorsprung gegenüber der aufstrebenden Militärmacht China nicht behaupten können.
„Daten sind letztendlich die Munition der KI-Kriegsführung“, sagte er kürzlich in einem Interview und wiederholte damit einen Satz, den er auf Konferenzen und während einer Kongressanhörung im Juli verwendet hatte. Und die Vereinigten Staaten seien mit der Bevorratung dieser Munition bereits im Rückstand, sagte Wang.
Das US-Militär hat KI zu einem wichtigen Bestandteil seiner Strategie für die kommenden Jahrzehnte gemacht und Pläne für den Einsatz autonomer Schiffe und Flugzeuge als Unterstützung für von Menschen gesteuerte Maschinen sowie für den Einsatz von Algorithmen zur Verbesserung der Logistik durch Vorhersage, wann bestimmte Teile ausgetauscht werden sollten, und für Scans entwickelt Drohnenaufnahmen mit Bilderkennungstechnologie, um menschliche Analysten zu entlasten.
Scale hat davon profitiert, dem jüngsten KI-Boom voraus zu sein, der letztes Jahr ausgelöst wurde, als OpenAI ChatGPT der Öffentlichkeit zugänglich machte. Scale hat Hunderte Millionen Dollar eingesammelt und wurde von seinen Investoren im Jahr 2021 mit über 7 Milliarden Dollar bewertet, was Wang laut Forbes zum damals jüngsten Selfmade-Milliardär der Welt machte.
Doch der Wettbewerb um Militäraufträge ist hart. Große Technologieunternehmen wie Google, Microsoft und Amazon versuchen allesamt aggressiv, das Pentagon zu umwerben. Im Dezember 2022 erhielten diese drei Firmen sowie das Unternehmenssoftwareunternehmen Oracle das Exklusivrecht, für Cloud-Computing-Verträge im Wert von 9 Milliarden US-Dollar im gesamten Verteidigungsministerium zu bieten, was einen Teil dessen auffressen könnte, worum Scale konkurrieren möchte. Eine wachsende Gruppe anderer Start-ups, darunter Shield AI und Helsing, sammelt erhebliche Geldbeträge und arbeitet daran, ihre Technologie auch an das Militär zu verkaufen.
(Amazon-Gründer Jeff Bezos ist Eigentümer der Washington Post, und die Interims-CEO der Zeitung, Patty Stonesifer, sitzt im Vorstand von Amazon.)
Scale hat aufgrund seiner Arbeit im globalen Süden, wo das Unternehmen Tausende von Moderatoren in sogenannten „digitalen Ausbeutungsbetrieben“ beschäftigt, Schaden an seinem Ruf erlitten. Im Januar entließ das Unternehmen im Rahmen einer Entlassungswelle in der Technologiebranche 20 Prozent seiner Mitarbeiter. Eine Untersuchung der Washington Post ergab, dass Dutzende Scale-Auftragnehmer auf den Philippinen nicht pünktlich oder überhaupt nicht für ihre Arbeit bezahlt wurden Sie taten. Ein Scale-Sprecher sagte damals, dass Verzögerungen und Zahlungsunterbrechungen „äußerst selten“ seien.
Befürworter der Rüstungskontrolle haben gegen den Einsatz von KI durch Militärs protestiert, weil sie befürchten, dass dadurch die Menschen nach und nach von wichtigen Entscheidungen abgehalten werden, einschließlich der Frage, wer oder was auf dem Schlachtfeld ins Visier genommen werden soll. Einige Waffen verfügen schon seit Jahren über autonome Fähigkeiten, und Drohnen, die Ziele automatisch erkennen und ohne die endgültige Erlaubnis von Menschen im Sturzflug bombardieren können, befinden sich bereits in militärischen Arsenalen auf der ganzen Welt. Das US-Militär sagt, dass ein Mensch immer „auf dem Laufenden“ sein wird, aber Studien haben gezeigt, dass Menschen eher den Ratschlägen autoritär klingender Maschinen folgen, als ihrem eigenen Urteil zu vertrauen.
Wang hatte nicht vor, Militärunternehmer zu werden. Er gründete Scale, nachdem er im Alter von 19 Jahren zusammen mit Lucy Guo, einer Praktikantin bei der Frage-und-Antwort-Site Quora, das MIT verlassen hatte. Damals führten Durchbrüche in der KI-Forschung zu Algorithmen, die Bilder erkennen und Sprache nahtlos übersetzen konnten. Aber die Unmengen an Bildern und Videos, die KI-Labore aus dem Internet holten, um ihre Daten zu trainieren, mussten beschriftet werden, um den Algorithmen beizubringen, was sie betrachteten. Um dieses Problem zu lösen, haben Wang und Guo Scale entwickelt, indem sie Auftragnehmer auf der ganzen Welt damit beauftragt haben, Bildern mühsam Beschriftungen hinzuzufügen, und dann den Service in Rechnung gestellt haben.
Im Jahr 2018, zwei Jahre nach der Gründung des Unternehmens, reiste Wang nach China für eine Lernreise durch die boomende KI-Szene des Landes. Als er das Büro eines Gesichtserkennungs-Start-ups betrat, das er gerade besuchte, wurde auf einem riesigen Bildschirm ein Video der Lobby abgespielt, in dem die demografischen Daten aller eintretenden Personen identifiziert und im Fall chinesischer Staatsbürger deren Namen und biografische Angaben angezeigt wurden Details neben ihren Gesichtern.
„Es sollte eine Demonstration ihrer Technologie sein, aber es ist auch einfach erschreckend“, sagte Wang über die offensichtliche Zurschaustellung der Überwachung. Die beiläufige Präsentation, wie kommerzielle Technologie für Regierungszwecke genutzt werden könnte, verdeutlichte Wang, dass die enge Beziehung zwischen Chinas Technologieunternehmen und seinem Militär dem Land einen Vorteil verschaffte, der es ihm ermöglichen könnte, die jahrzehntelange Dominanz der Vereinigten Staaten in der Hochtechnologie zu überwinden .
Gleichzeitig schien die Kluft zwischen amerikanischen Unternehmen und der Regierung immer größer zu werden. Wangs Reise fand etwa zur gleichen Zeit statt, als Google ankündigte, einen Vertrag zur Bereitstellung von KI zur Unterstützung des Militärs bei der Analyse von Drohnenaufnahmen nicht zu verlängern, nachdem viele Mitarbeiter des Unternehmens Einwände gegen das als Project Maven bekannte Programm erhoben hatten.
„Es fühlte sich so an, als ob dieser spürbare Bruch im Ton dazu führen würde, dass China, wenn es so weiterginge, die militärische KI-Dominanz über die Vereinigten Staaten erlangte“, sagte Wang.
Einige Technologiemanager und Investoren argumentieren seit langem, dass die Steuerung des bürokratischen Beschaffungsprozesses des Militärs für Unternehmen, die auch reguläre kommerzielle Kunden bedienen, zu kompliziert und zeitaufwändig sei. Viele KI-Forscher stehen den Motiven der US-Regierung zutiefst skeptisch gegenüber und befürchten, dass die Übergabe von KI in die Hände mächtiger Militärs zu verstärkter Überwachung und sogar zu der Gefahr führen könnte, dass KI der menschlichen Kontrolle entgleitet und in der realen Welt Schaden anrichtet.
„Wie bei jedem Wettrüsten wird die Bewaffnung jeder Seite durch die Bewaffnung der anderen Seite gerechtfertigt“, sagte Lucy Suchman, eine pensionierte Professorin der Lancaster University im Vereinigten Königreich, die erforscht, wie KI von Militärs eingesetzt wird. „Es ist ein sich selbst erhaltender und sich selbst verstärkender Kreislauf.“
Wang ist sich der Risiken bewusst, die damit einhergehen, fortschrittliche KI ins Spiel zu bringen, und sagte, dass die neue Technologie vor ihrem Einsatz immer strenge Tests erfordern werde.
Ein Sprecher von Microsoft lehnte eine Stellungnahme ab. Sprecher von Google und Oracle antworteten nicht auf eine Bitte um Stellungnahme.
Befürchtungen, dass China in Taiwan einmarschieren könnte, und die Invasion des russischen Präsidenten Wladimir Putin in der Ukraine hätten die Technologiebranche zurück in die Richtung der Regierung gedrängt, sagte Michael Brown, Partner bei der verteidigungsorientierten Risikokapitalgesellschaft Shield Capital und ehemaliger Direktor der Defence Innovation Unit des Pentagon dient als Botschaft des Militärs in der Technologiebranche.
Im Jahr 2022 gaben Google, Facebook, Microsoft, Apple und Amazon zusammen 198,9 Milliarden US-Dollar für Forschung und Entwicklung aus, während das Pentagon 132 Milliarden US-Dollar ausgab, unter anderem für das Testen und Bewerten neuer Waffen und Werkzeuge.
„Die Verteidigung ist reif für Störungen sowohl durch Big Tech als auch durch neuere Marktteilnehmer“, sagte Nathan Benaich, Gründer von Air Street Capital, einer Risikokapitalgesellschaft, die in eine Handvoll Militärtechnologieunternehmen investiert hat.
Scale treibt auch die Bereitstellung eigener Tools voran.
Sein militärisch ausgerichteter ChatGPT-Konkurrent Donovan wird bereits von Militäreinheiten und Studenten der Marine Corps University getestet. Scale präsentiert den Bot als „KI-gestützte Entscheidungsplattform“, die Geheimdienstdaten aus verschiedenen Quellen verarbeiten und menschlichen Beamten Empfehlungen geben kann.
Eine Demo von Donovan zeigt, wie der Chatbot ein verdächtiges chinesisches Schiff in der Nähe von Taiwan identifiziert und einem Beamten dann Optionen bietet, weitere Informationen zu finden, beispielsweise ein Flugzeug zu einem Überflug zu schicken oder aktuelle Satellitenbilder abzurufen. Sobald die Bilder verfügbar sind, identifizieren Bilderkennungsalgorithmen hohe Strahlungsmengen und veranlassen den Offizier, die Informationen an die Befehlskette weiterzugeben und eine Drohne zur Untersuchung des Schiffs zu entsenden.
Aber der Verkauf an das Militär sei selbst ohne intensiven Wettbewerb schwierig, sagte Benaich.
„Verteidigung ist ein Kunde wie kein anderer und erfordert umfassendes institutionelles Fachwissen, um erfolgreich zu sein. An die Armee zu verkaufen ist nicht wie an Uber zu verkaufen“, sagte er.
Wang sagte, Scale habe immer noch ein breites Kundenspektrum und benötige keine Militärgelder, um erfolgreich zu sein. Er sagte, die Zusammenarbeit mit dem Pentagon entspringe dem Wunsch des Unternehmens, den Vereinigten Staaten dabei zu helfen, ihre Macht in der Welt aufrechtzuerhalten, auch wenn das 21. Jahrhundert mehr Konflikte und Komplikationen in die Weltordnung bringt.
„Wenn Scale bei diesem äußerst abrupten und drastischen Technologieübergang das Unternehmen sein kann, das dazu beiträgt, dass die Vereinigten Staaten diese Führungsposition behalten, ist das eine sehr reale und sehr greifbare Auswirkung“, sagte er.