De ChatGPT- en Whisper-API’s van OpenAI zijn nu beschikbaar voor ontwikkelaars

De ChatGPT- en Whisper-API’s van OpenAI zijn nu beschikbaar voor ontwikkelaars post thumbnail image

OpenAI heeft aangekondigd dat zijn ChatGPT- en Whisper-modellen nu beschikbaar zijn in zijn API, waardoor ontwikkelaars toegang krijgen tot door AI aangedreven spraak- en spraak-naar-tekst-mogelijkheden. Als onderdeel van een systeembrede optimalisatie heeft OpenAI sinds december kon de kosten van ChatGPT met 90% verlagen en geeft de besparingen nu door aan API-gebruikers. OpenAI gelooft dat de beste manier om het volledige potentieel van AI te realiseren, is om iedereen ermee te laten bouwen. De vandaag aangekondigde wijzigingen kunnen leiden tot een aantal toepassingen waar iedereen van kan profiteren. Meer bedrijven kunnen profiteren van de spraak- en spraak-naar-tekst-mogelijkheden van OpenAI om apps van de volgende generatie te bouwen, mogelijk gemaakt door ChatGPT en Whisper. Bovendien heeft OpenAI rekening gehouden met feedback van ontwikkelaars en de API-servicevoorwaarden aangepast om beter aan hun behoeften te voldoen.

ChatGPT-API

OpenAI brengt een nieuwe familie van ChatGPT-modellen uit, genaamd gpt-3.5-turbo, geprijsd op $ 0,002 per 1K. tokens, waardoor het tien keer goedkoper is dan bestaande GPT-3.5-modellen. Dit model is ideaal voor veel niet-chat-use-cases en is hetzelfde in het ChatGPT-product. Terwijl GPT-modellen traditioneel ongestructureerde tekst gebruiken die wordt weergegeven als een reeks tokens, gebruiken ChatGPT-modellen een berichtenreeks met metadata. De invoer voor het model wordt echter geleverd als een reeks tokens die het model kan gebruiken. Het gpt-3.5-turbomodel gebruikt een nieuw formaat genaamd chat markup language (ChatML).

ChatGPT-updates

OpenAI verbetert voortdurend zijn ChatGPT-modellen en streeft ernaar deze updates aan te bieden aan ontwikkelaars. Degenen die het gpt-3.5-turbomodel gebruiken, krijgen altijd het aanbevolen stabiele model, maar kunnen nog steeds een specifieke build selecteren. OpenAI lanceert een nieuwe versie genaamd gpt-3.5-turbo-0301, die tot ten minste 1 juni wordt ondersteund, met een nieuwe stabiele release die in april wordt verwacht. Ontwikkelaars kunnen updates vinden op de modellenpagina om te upgraden naar de nieuwste versie.

Toegewijde gevallen

OpenAI biedt nu speciale instanties voor gebruikers die meer controle willen over hun modelversies en systeemprestaties. Standaard worden verzoeken verwerkt op een gedeelde computerinfrastructuur en betalen gebruikers per verzoek. In sommige gevallen betalen ontwikkelaars echter een bepaalde tijd om computerinfrastructuur exclusief voor hun verzoeken toe te wijzen. Ontwikkelaars hebben volledige controle over het laden van instanties, de mogelijkheid om langere contextbeperkingen in te schakelen en de mogelijkheid om een ​​momentopname van het model vast te zetten. Toegewijde instanties kunnen kosteneffectief zijn voor ontwikkelaars die er meer dan ongeveer 450 miljoen verwerken van toegangssleutels per dag.

Whisper-API

in 2022 September. OpenAI introduceerde het spraak-naar-tekstmodel van Whisper als een open source API. De Whisper API heeft veel lof gekregen van de ontwikkelaarscommunity. Het kan echter moeilijk te beheren zijn. OpenAI biedt toegang tot een groot v2-model via zijn API, waardoor ontwikkelaars gemakkelijk on-demand toegang krijgen tegen een kostprijs van $ 0,006 per minuut. Bovendien garandeert de OpenAI-servicestack snellere prestaties in vergelijking met andere services. De Whisper API is toegankelijk via transcriptie- of vertaaleindpunten die de brontaal in het Engels kunnen transcriberen of vertalen.

Aandacht van de ontwikkelaar

OpenAI heeft specifieke wijzigingen aangebracht na feedback van ontwikkelaars. Voorbeelden van dergelijke wijzigingen zijn:

  • Gegevens die via de API worden verstrekt, niet gebruiken voor serviceverbetering, inclusief modeltraining, tenzij de organisatie hiermee instemt.
  • Een standaard bewaarbeleid voor gegevens instellen van 30 dagen met de optie van striktere bewaartermijnen op basis van de behoeften van de gebruiker.
  • Documentatie voor ontwikkelaars wordt verbeterd.
  • Vereenvoudig de servicevoorwaarden en het gebruiksbeleid.

OpenAI erkent dat het leveren van betrouwbare diensten essentieel is om ervoor te zorgen dat AI iedereen ten goede komt. Daartoe zet OpenAI zich in om de uptime de komende maanden te verbeteren.
Uitgelichte afbeelding: Shaheerrr/Shutterstock
Bron: OpenAI

Relevante berichten