- Eine Gruppe für künstliche Intelligenz hat eine neue Reihe von Ergebnissen veröffentlicht, die die Geschwindigkeit der Hardware bei der Ausführung von KI-Anwendungen bewerten.
- Zwei neue Benchmarks messen die Geschwindigkeit von KI-Chips und -Systemen bei der Generierung von Antworten aus datengeladenen KI-Modellen.
- Ein neuer Benchmark bewertet außerdem die Geschwindigkeit von Frage-und-Antwort-Szenarien für große Sprachmodelle.
Die Benchmarking-Gruppe für künstliche Intelligenz MLCommons hat am Mittwoch eine Reihe neuer Tests und Ergebnisse veröffentlicht, die die Geschwindigkeit bewerten, mit der Spitzenhardware KI-Anwendungen ausführen und auf Benutzer reagieren kann.
Die beiden neuen Benchmarks von MLCommons messen die Geschwindigkeit, mit der die KI-Chips und -Systeme Antworten aus den leistungsstarken, mit Daten gefüllten KI-Modellen generieren können. Die Ergebnisse zeigen grob, wie schnell eine KI-Anwendung wie ChatGPT eine Antwort auf eine Benutzeranfrage liefern kann.
Einer der neuen Benchmarks fügte die Möglichkeit hinzu, die Geschwindigkeit eines Frage-und-Antwort-Szenarios für große Sprachmodelle zu messen. Es heißt Llama 2, umfasst 70 Milliarden Parameter und wurde von Meta Platforms entwickelt.
Das Weiße Haus stellt neue KI-Vorschriften für Bundesbehörden vor
Die Verantwortlichen von MLCommons fügten der Suite von Benchmarking-Tools außerdem einen zweiten Text-zu-Bild-Generator namens MLPerf hinzu, der auf dem Stable Diffusion XL-Modell von Stability AI basiert.
Besucher betrachten einen Roboter von Unitree Robotics während des World Artificial Intelligence Cannes Festival am 10. Februar 2023 in Cannes, Frankreich. (REUTERS/Eric Gaillard/Aktenfoto)
Server, die mit Nvidias H100-Chips betrieben werden, die von Unternehmen wie Alphabets Google, Supermicro und Nvidia selbst gebaut wurden, gewannen problemlos beide neuen Benchmarks für die Rohleistung. Mehrere Serverhersteller haben Entwürfe eingereicht, die auf dem weniger leistungsstarken L40S-Chip des Unternehmens basieren.
Der Serverhersteller Krai hat für den Bildgenerierungs-Benchmark einen Entwurf mit einem Qualcomm-KI-Chip eingereicht, der deutlich weniger Strom verbraucht als die hochmodernen Prozessoren von Nvidia.
KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN
Auch Intel hat ein Design eingereicht, das auf seinen Gaudi2-Beschleunigerchips basiert. Das Unternehmen bezeichnete die Ergebnisse als „solide“.
Bei der Bereitstellung von KI-Anwendungen ist nicht nur die reine Leistung von entscheidender Bedeutung. Fortschrittliche KI-Chips verbrauchen enorme Mengen an Energie und eine der größten Herausforderungen für KI-Unternehmen besteht darin, Chips einzusetzen, die bei minimaler Energiemenge eine optimale Leistung liefern.
MLCommons verfügt über eine separate Benchmark-Kategorie zur Messung des Stromverbrauchs.