OpenAI hat angekündigt, dass seine ChatGPT- und Whisper-Modelle jetzt auf seiner API verfügbar sind und Entwicklern Zugriff auf KI-gestützte Sprach- und Sprache-zu-Text-Funktionen bieten.
Durch systemweite Optimierungen ist es OpenAI gelungen, die Kosten von ChatGPT seit Dezember um 90 % zu senken, und gibt diese Einsparungen nun an API-Benutzer weiter.
OpenAI glaubt, dass der beste Weg, das volle Potenzial der KI auszuschöpfen, darin besteht, jedem zu ermöglichen, damit zu bauen.
Die heute angekündigten Änderungen können zu zahlreichen Anwendungen führen, von denen jeder profitieren kann.
Immer mehr Unternehmen können die Sprach- und Sprache-zu-Text-Funktionen von OpenAI nutzen, um Apps der nächsten Generation zu entwickeln, die von ChatGPT und Whisper unterstützt werden.
Darüber hinaus hat OpenAI das Feedback von Entwicklern berücksichtigt und Änderungen an seinen API-Nutzungsbedingungen vorgenommen, um deren Anforderungen besser gerecht zu werden.
ChatGPT-API
OpenAI bringt eine neue ChatGPT-Modellfamilie namens gpt-3.5-turbo auf den Markt, deren Preis bei 0,002 $ pro 1.000 Token liegt und damit zehnmal billiger ist als die bestehenden GPT-3.5-Modelle.
Dieses Modell ist ideal für viele Nicht-Chat-Anwendungsfälle und ist das gleiche wie im ChatGPT-Produkt.
Während GPT-Modelle traditionell unstrukturierten Text verbrauchen, der als Folge von Token dargestellt wird, verbrauchen ChatGPT-Modelle eine Folge von Nachrichten mit Metadaten.
Die Eingabe wird jedoch als eine Folge von Token an das Modell gerendert, die das Modell verwenden kann.
Das gpt-3.5-turbo-Modell verwendet ein neues Format namens Chat Markup Language (ChatML).
ChatGPT-Upgrades
OpenAI verbessert seine ChatGPT-Modelle kontinuierlich und ist bestrebt, diese Upgrades Entwicklern anzubieten.
Wer das Modell gpt-3.5-turbo nutzt, erhält immer das empfohlene stabile Modell, kann sich aber trotzdem für eine bestimmte Version entscheiden.
OpenAI bringt eine neue Version namens gpt-3.5-turbo-0301 auf den Markt, die mindestens bis zum 1. Juni unterstützt wird, und eine neue stabile Version wird im April erwartet.
Entwickler finden Updates auf der Modellseite, um auf die neueste Version umzusteigen.
Dedizierte Instanzen
OpenAI bietet jetzt dedizierte Instanzen für Benutzer, die mehr Kontrolle über ihre Modellversionen und die Systemleistung wünschen.
Standardmäßig werden Anfragen auf einer gemeinsam genutzten Recheninfrastruktur verarbeitet, und Benutzer zahlen pro Anfrage.
Bei dedizierten Instanzen zahlen Entwickler jedoch für einen bestimmten Zeitraum, um Recheninfrastruktur zuzuweisen, die ausschließlich für ihre Anforderungen reserviert ist.
Entwickler haben die vollständige Kontrolle über die Auslastung der Instanz, die Option, längere Kontextbeschränkungen zu aktivieren, und die Möglichkeit, den Modell-Snapshot anzuheften.
Dedizierte Instanzen können für Entwickler kosteneffektiv sein, die mehr als etwa 450 Millionen Token pro Tag verarbeiten.
Whisper-API
OpenAI führte im September 2022 Whisper, ein Speech-to-Text-Modell, als Open-Source-API ein.
Die Whisper-API hat viel Lob von der Entwickler-Community erhalten. Die Bedienung kann jedoch schwierig sein.
OpenAI stellt das Large-v2-Modell über seine API zur Verfügung und bietet Entwicklern bequemen On-Demand-Zugriff zum Preis von 0,006 $ pro Minute.
Darüber hinaus garantiert der Serving-Stack von OpenAI eine schnellere Leistung im Vergleich zu anderen Diensten. Auf die Whisper-API kann über Transkriptions- oder Übersetzungsendpunkte zugegriffen werden, die die Ausgangssprache ins Englische transkribieren oder übersetzen können.
Entwicklerfokus
OpenAI hat nach Erhalt von Entwickler-Feedback spezifische Änderungen vorgenommen. Beispiele für diese Änderungen sind die folgenden:
- Keine Verwendung von über die API übermittelten Daten für Serviceverbesserungen, einschließlich Modellschulungen, es sei denn, die Organisation stimmt dem zu.
- Einrichten einer standardmäßigen Datenaufbewahrungsrichtlinie von 30 Tagen mit der Option einer strengeren Aufbewahrung je nach den Anforderungen des Benutzers.
- Verbesserung der Entwicklerdokumentation.
- Vereinfachung der Nutzungsbedingungen und Nutzungsrichtlinien.
OpenAI erkennt an, dass die Bereitstellung zuverlässiger Dienste notwendig ist, um sicherzustellen, dass KI allen zugute kommt. Zu diesem Zweck ist OpenAI bestrebt, seine Betriebszeit in den nächsten Monaten zu verbessern.
Beitragsbild: Shaheerrr/Shutterstock
Quelle: OpenAI