OpenAI API Prijsgids: Veelgemaakte Fouten en Hoe Ze Te Vermijden

Tokenkosten begrijpen: input vs. output

OpenAI API prijzen rekenen apart voor input- en outputtokens. Dit betekent dat je totale kosten afhankelijk zijn van zowel hoeveel je verstuurt als hoeveel het model genereert. Inputtokens dekken je prompt plus eventuele conversatiegeschiedenis. Outputtokens dekken de reactietekst van het model.

Ons ongecensureerde model rekent $0,15 per miljoen inputtokens en $0,50 per miljoen outputtokens. De hogere outputkosten dekken de rekencapaciteit die nodig is voor het genereren van tekst. Kortere responsen kosten minder, maar verbruiken wel je prepaid credit.

• Invoertokens omvatten je prompt en de gespreksgeschiedenis
• Uitvoertokens dekken de volledige respons van het model
• Beide tokensoorten tellen mee voor je prepaid saldo
• Fouten en weigeringen verbruiken nul tokens

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Contextvensterlimieten en onverwachte kosten

Contextvensterlimieten hebben directe invloed op je tokenkosten omdat langere gesprekken meer invoertokens verbruiken. Ons ongecensureerde model ondersteunt een contextvenster van 100.000 tokens voor prompt plus voltooiing samen. Je kunt maximaal 16.000 tokens per verzoek genereren. Als je max_tokens weglaat, daalt de limiet naar 2.048 tokens.

Langere contextvensters betekenen hogere invoertokenkosten, maar maken ook complexere redenering mogelijk. Het inkorten van de gespreksgeschiedenis vermindert de invoerkosten, maar kan de antwoordkwaliteit verminderen. Vind het evenwicht dat werkt voor jouw use case.

• 100.000 totaal contextvenster voor input plus output
• Maximaal 16.000 output tokens per verzoek
• 2.048 standaard output tokens als max_tokens wordt weggelaten
• Contextvenster beïnvloedt zowel kosten als responskwaliteit

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming vs. niet-streaming tokenberekening

Streaming responses berekenen tokens op exact dezelfde manier als niet-streamende requests. Elke token die naar de client wordt gestuurd, wordt in rekening gebracht voor je prepaid saldo, ongeacht de leveringsmethode. Streaming levert tokens slechts incrementeel in plaats van in één keer.

Gebruik streaming wanneer u realtime feedback nodig heeft, maar het tokengebruik zorgvuldig bijhoudt. De laatste chunk bevat totale tokenaantallen voor zowel invoer als uitvoer. Houd deze aantallen bij om binnen uw budget te blijven.

• Streaming en niet-streamen gebruiken identieke token-telling
• Elke token die naar de client wordt verzonden, verbruikt credits
• De laatste chunk bevat het totale aantal input- en outputtokens
• Volg tokengebruik in uw stream-implementatie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Veelvoorkomende configuratiefouten in SDK's

SDK-misconfiguraties leiden tot onverwachte kosten door het verzenden van te veel tokens of het maken van redundante verzoeken. Ontwikkelaars vergeten vaak max_tokens in te stellen, wat resulteert in onverwacht lange antwoorden. Anderen missen streaming-implementaties die doorgaan met het verzenden van tokens nadat het antwoord volledig is.

Configureer je SDK met expliciete parameters. Stel max_tokens in om de uitvoerlengte te bepalen. Schakel streaming alleen in wanneer je realtime feedback nodig hebt. Monitor tokengebruik in je applicatielogboeken.

• Stel expliciete max_tokens in om de lengte van de output te bepalen
• Schakel streaming alleen in wanneer realtime feedback nodig is
• Monitor tokenaantallen in je applicatielogboeken
• Configureer timeoutwaarden om hangende verzoeken te voorkomen

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Waarom vooruitbetaalde credits je geld besparen

Voorafbetaalde kredieten elimineren abonnementsverspilling door alleen af te rekenen voor daadwerkelijk tokengebruik. Ons systeem rekent $0.15 per miljoen inputtokens en $0.50 per miljoen outputtokens af. Fouten en afwijzingen verbruiken nul tokens, dus je betaalt nooit voor mislukte verzoeken.

Betaal $20 tot $500 in crypto voor USDT op TRC20 of USDC op Base. Ontvang bonuskrediet bij een opwaardering van $50 of meer. Krediet vervalt nooit, zodat je het kunt gebruiken wanneer je maar wilt. Geen maandelijkse kosten betekent dat je alleen betaalt voor wat je daadwerkelijk verbruikt.

• Voorafbetaalde kredieten rekenen alleen af voor daadwerkelijk tokengebruik
• Fouten en weigeringen verbruiken nul tokens
• Laad $20 tot $500 op in crypto
• Credits vervallen nooit en bonuscredit is van toepassing

Vermijden van rate limit-boetes

Rate limits voorkomen misbruik, maar kunnen je applicatie onderbreken als ze verkeerd zijn geconfigureerd. Onze API staat 300 verzoeken per minuut per sleutel toe en 8 gelijktijdige verzoeken per sleutel. Requestbody's moeten kleiner blijven dan 8 MB om afwijzing te voorkomen.

Implementeer retry-logica met exponentiële backoff bij het raken van rate limits. Monitor je aantal verzoeken per minuut om binnen de limieten te blijven. Gebruik aparte sleutels voor verschillende applicatieonderdelen om de belasting te verdelen. Één actieve sleutel per account betekent dat je sleutelrotatie zorgvuldig moet beheren.

• 300 verzoeken per minuut per API-sleutel
• Maximaal 8 gelijktijdige requests toegestaan per key
• Verzoeklichamen moeten onder de 8 MB blijven
• Eén actieve sleutel per account met vervangingsmogelijkheid

Vergelijking van uncensored modelkosten

Onbeperkte modellen zijn vaak duurder dan standaardmodellen vanwege gespecialiseerde training en inferentievereisten. Ons model rekent $0,15 per miljoen inputtokens en $0,50 per miljoen outputtokens. Deze prijsstelling weerspiegelt de rekenresources die nodig zijn voor onbeperkte generatie.

Standaardmodellen kunnen goedkoper zijn, maar bevatten inhoudsbeperkingen die de responsgkwaliteit beïnvloeden. Uncensored-modellen bieden onbeperkte antwoorden voor wettelijke volwassen inhoud, fictie en onderzoek. Kies op basis van je inhoudsbehoeften in plaats van alleen de prijs.

• Uncensored-modellen vereisen gespecialiseerde training en inference.
• Onze prijs weerspiegelt de compute kosten van uncensored generatie
• Contentbeperkingen beïnvloeden de responskwaliteit en kosten
• Kies op basis van contentbehoeften, niet alleen op prijs

Gebruik en factureringsmeldingen volgen

Tokengebruik bijhouden helpt je kosten te monitoren en budgetoverschrijdingen te voorkomen. Onze API retourneert token-tellingen in elk antwoord, inclusief streaming-antwoorden. Houd deze tellingen bij in je applicatielogboeken en dashboards.

Stel meldingen in wanneer verbruik bepaalde drempels bereikt. Monitor de verhouding tussen input- en outputtokens om je prompts te optimaliseren. Gebruik de tokentellingen om de werkelijke kosten te berekenen en te vergelijken met je prepaid-saldo.

• Tokenaantallen verschijnen in elke response, inclusief streaming
• Monitor de verhouding tussen input- en outputtokens
• Stel gebruikswaarschuwingen in om budgetoverschrijdingen te voorkomen
• Bereken werkelijke kosten met behulp van tokenaantallen