Tarification API OpenAI : Erreurs courantes et comment les éviter

Comprendre les coûts en tokens : entrée vs sortie

La tarification API OpenAI facture séparément les tokens d'entrée et de sortie. Cela signifie que votre coût total dépend à la fois de ce que vous envoyez et de ce que le modèle génère. Les tokens d'entrée couvrent votre prompt plus l'historique de conversation. Les tokens de sortie couvrent le texte de réponse du modèle.

Notre modèle sans censure facture 0,15 $ par million de tokens d'entrée et 0,50 $ par million de tokens de sortie. Le coût plus élevé pour la sortie reflète le calcul nécessaire pour générer du texte. Les réponses plus courtes coûtent moins cher mais consomment toujours votre crédit prépayé.

• Les tokens d'entrée incluent votre invite et l'historique de la conversation
• Les tokens de sortie couvrent la réponse complète du modèle
• Les deux types de tokens sont déduits de votre solde prépayé
• Les erreurs et les refus consomment zéro jeton

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Limites de la fenêtre de contexte et frais inattendus

Les limites de la fenêtre de contexte affectent directement vos coûts de tokens car les conversations plus longues consomment plus de tokens d'entrée. Notre modèle uncensored prend en charge une fenêtre de contexte de 100 000 tokens pour l'invite plus la complétion ensemble. Vous pouvez générer jusqu'à 16 000 tokens par requête. Si vous omettez max_tokens, la limite tombe à 2 048 tokens.

Des fenêtres de contexte plus longues signifient des coûts de tokens d'entrée plus élevés mais permettent également un raisonnement plus complexe. La réduction de l'historique des conversations diminue les coûts d'entrée mais peut dégrader la qualité des réponses. Trouvez l'équilibre qui convient à votre cas d'utilisation.

• Fenêtre de contexte totale de 100 000 tokens pour l'entrée et la sortie
• 16 000 jetons de sortie maximum par requête
• 2 048 tokens de sortie par défaut si max_tokens est omis
• La fenêtre de contexte affecte à la fois les coûts et la qualité des réponses

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Calcul des tokens : Streaming vs non-streaming

Les réponses en streaming calculent les jetons de la même manière que les requêtes non streaming. Chaque jeton envoyé au client est comptabilisé dans votre solde prépayé, quelle que soit la méthode de livraison. Le streaming se contente de délivrer les jetons de manière incrémentale plutôt que tous en une fois.

Utilisez le streaming lorsque vous avez besoin d'un retour en temps réel mais suivez attentivement l'utilisation des jetons. Le dernier fragment contient les comptes totaux de jetons pour l'entrée et la sortie. Surveillez ces comptes pour rester dans votre budget.

• Le streaming et le mode non-streaming utilisent un comptage de tokens identique
• Chaque jeton envoyé au client consomme des crédits
• Le dernier chunk inclut les compteurs totaux de tokens d’entrée et de sortie
• Suivez l'utilisation des tokens dans votre implémentation en streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Erreurs courantes de configuration du SDK

Les erreurs de configuration SDK entraînent des frais inattendus en envoyant trop de tokens ou en effectuant des requêtes redondantes. Les développeurs oublient souvent de définir max_tokens, ce qui entraîne des réponses inattendument longues. D'autres négligent les implémentations de streaming qui continuent d'envoyer des tokens après la fin de la réponse.

Configurez votre SDK avec des paramètres explicites. Définissez max_tokens pour contrôler la longueur de la sortie. Activez la diffusion en continu uniquement lorsque vous avez besoin d'une rétroaction en temps réel. Surveillez l'utilisation des jetons dans les journaux de votre application.

• Définissez des limites max_tokens explicites pour contrôler la longueur de la sortie
• Activez le streaming uniquement lorsque des retours en temps réel sont nécessaires
• Surveillez les comptes de tokens dans les journaux de votre application
• Configurez les valeurs de délai d'expiration pour éviter les requêtes bloquées

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pourquoi les crédits prépayés vous font économiser de l'argent

Les crédits prépayés éliminent le gaspillage d'abonnement en ne facturant que l'utilisation réelle des jetons. Notre système facture 0,15 $ par million de jetons d'entrée et 0,50 $ par million de jetons de sortie. Les erreurs et les refus consomment zéro jeton donc vous ne payez jamais pour les requêtes échouées.

Payez de 20 $ à 500 $ en crypto pour USDT sur TRC20 ou USDC sur Base. Recevez un crédit bonus lors d'une recharge de 50 $ ou plus. Les crédits n'expirent jamais, vous pouvez donc les utiliser quand vous le souhaitez. L'absence de frais mensuels signifie que vous ne payez que ce que vous consommez réellement.

• Les crédits prépayés ne facturent que l'utilisation réelle des jetons
• Les erreurs et les refus consomment zéro jeton
• Rechargez de 20 $ à 500 $ en crypto
• Les crédits n'expirent jamais et les crédits bonus s'appliquent

Éviter les pénalités de limite de débit

Les limites de taux empêchent les abus mais peuvent interrompre votre application si elles sont mal configurées. Notre API autorise 300 requêtes par minute par clé et 8 requêtes simultanées par clé. Les corps de requête doivent rester inférieurs à 8 Mo pour éviter le rejet.

Implémentez une logique de nouvelle tentative avec rétrogradation exponentielle lorsque vous atteignez les limites de débit. Surveillez votre nombre de requêtes par minute pour rester dans les limites. Utilisez des clés séparées pour les différents composants de l'application afin de répartir la charge. Une clé active par compte signifie que vous devez gérer la rotation des clés avec soin.

• 300 requêtes par minute par clé API
• 8 requêtes simultanées autorisées par clé
• Les corps de requête doivent être inférieurs à 8 Mo
• Une clé active par compte avec capacité de remplacement

Comparaison des coûts des modèles non censurés

Les modèles sans curation coûtent souvent plus cher que les modèles standard en raison de besoins spécialisés en entraînement et en inférence. Notre modèle facture 0,15 $ par million de tokens d'entrée et 0,50 $ par million de tokens de sortie. Cette tarification reflète les ressources informatiques nécessaires à la génération sans curation.

Les modèles standard peuvent coûter moins cher mais incluent des restrictions de contenu qui affectent la qualité des réponses. Les modèles non filtrés fournissent des réponses non restreintes pour le contenu adulte légal, la fiction et la recherche. Choisissez en fonction de vos besoins en contenu plutôt que du prix seul.

• Les modèles sans censure nécessitent un entraînement et une inférence spécialisés.
• Notre tarification reflète les coûts de calcul de la génération non filtrée
• Les restrictions de contenu affectent la qualité des réponses et le coût
• Choisissez en fonction des besoins en contenu et non seulement du prix

Suivi des alertes d'utilisation et de facturation

Le suivi de l'utilisation des tokens vous aide à surveiller les coûts et à éviter les dépassements de budget. Notre API renvoie les compteurs de tokens dans chaque réponse, y compris les réponses en streaming. Suivez ces compteurs dans les journaux et les tableaux de bord de votre application.

Mettez en place des alertes lorsque l'utilisation atteint certains seuils. Surveillez les rapports d'entrée par rapport aux jetons de sortie pour optimiser vos prompts. Utilisez les comptes de jetons pour calculer les coûts réels et les comparer à votre solde prépayé.

• Les comptes de tokens apparaissent dans chaque réponse, y compris en streaming
• Surveillez les ratios de tokens d'entrée par rapport aux tokens de sortie
• Configurez des alertes d'utilisation pour éviter les dépassements de budget
• Calculer les coûts réels en utilisant les comptes de jetons