„Sonst gewinnen alle Amtsinhaber“, sagte Herr Conrad.
Venture-Capital-Investoren haben ein ähnliches Ziel. In diesem Monat ging Index Ventures eine Partnerschaft mit Oracle ein, um seinen sehr jungen Portfoliounternehmen kostenlos eine Mischung aus Nvidias H100-Chips und einer älteren Version namens A100 zur Verfügung zu stellen.
Erin Price Wright, eine Investorin von Index Ventures, sagte, das Unternehmen habe erlebt, wie seine Start-ups Schwierigkeiten hatten, den komplizierten Prozess zu meistern, Rechenleistung zu bekommen und auf Wartelisten zu landen, die bis zu neun Monate dauerten. Zwei Unternehmen wollen das neue Programm des Unternehmens nutzen, andere bekunden Interesse.
Vor dem Engpass bat George Sivulka, Geschäftsführer von Hebbia, einem Hersteller von KI-Produktivitätssoftware, seinen Cloud-Anbieter einfach um mehr „Instanzen“ oder virtuelle Server voller GPUs, als das Unternehmen expandierte. Jetzt, sagte er, reagierten seine Kontakte bei den Cloud-Unternehmen entweder nicht auf seine Anfragen oder setzten ihn auf eine viermonatige Warteliste. Er hat auf Kunden und andere Verbindungen zurückgegriffen, um seinen Standpunkt gegenüber den Cloud-Unternehmen durchzusetzen. Und er ist ständig auf der Suche nach mehr.
„Es ist fast so, als würde man über Drogen reden: ‚Ich kenne einen Mann, der H100 hat‘“, sagte er.
Vor einigen Monaten stellten einige Hebbia-Ingenieure im Büro des Unternehmens in Manhattan einen Server mit einigen weniger effizienten GPUs auf, parkten die Maschine in einem Schrank und nutzten ihn für die Arbeit an kleineren Projekten. Flüssigkeitskühleinheiten verhindern, dass der Server überhitzt, sagte Herr Sivulka, aber es sei laut.
„Wir haben die Tür geschlossen“, sagte er. „Niemand sitzt daneben.“
Die Knappheit hat einen starken Kontrast zwischen Besitzenden und Besitzlosen geschaffen. Im Juni gab Inflection AI, ein KI-Startup in Palo Alto, Kalifornien, bekannt, dass es 22.000 H100-Chips von Nvidia erworben hat. Es hieß außerdem, dass es 1,3 Milliarden US-Dollar von Microsoft, Nvidia und anderen eingesammelt habe. Mustafa Suleyman, CEO von Inflection, sagte in einem Interview, dass das Unternehmen vorhabe, mindestens 95 Prozent der Mittel für GPUs auszugeben.