Τιμολόγηση OpenAI API: Συχνά Λάθη και Πώς να τα Αποφύγετε

Κατανόηση κόστους tokens: input vs output

Η τιμολόγηση OpenAI API χρεώνει ξεχωριστά τα input και output tokens. Αυτό σημαίνει ότι το συνολικό σας κόστος εξαρτάται τόσο από το πόσο στέλνετε όσο και από το πόσο παράγει το μοντέλο. Τα input tokens καλύπτουν την εντολή σας συν τυχόν ιστορικό συνομιλίας. Τα output tokens καλύπτουν το κείμενο απόκρισης του μοντέλου.

Το μοντέλο μας χωρίς λογοκρισία χρεώνει $0.15 ανά εκατομμύριο εισερχόμενα tokens και $0.50 ανά εκατομμύριο εξερχόμενα tokens. Το υψηλότερο κόστος εξόδου αντανακλά τον υπολογιστικό πόρο που απαιτείται για την παραγωγή κειμένου. Οι συντομότερες απαντήσεις κοστίζουν λιγότερο αλλά καταναλώνουν το προπληρωμένο υπόλοιπό σας.

• Τα tokens εισόδου περιλαμβάνουν την εντολή και την ιστορία συνομιλίας
• Τα tokens εξόδου καλύπτουν την πλήρη απάντηση του μοντέλου
• Και οι δύο τύποι tokens μετράνε στο προπληρωμένο υπόλοιπό σας
• Τα σφάλματα και οι απορρίψεις καταναλώνουν μηδέν tokens

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Όρια παραθύρου πλαισίου και απροσδόκητες χρεώσεις

Τα όρια παραθύρου πλαισίου επηρεάζουν άμεσα τα κόστη tokens σας επειδή οι μακροχρόνιες συνομιλίες καταναλώνουν περισσότερα tokens εισόδου. Το αδιάκριτο μοντέλο μας υποστηρίζει παράθυρο πλαισίου 100.000 tokens για εντολή συν απάντηση μαζί. Μπορείτε να δημιουργήσετε έως 16.000 tokens ανά αίτημα. Αν παραλείψετε το max_tokens το όριο πέφτει στα 2.048 tokens.

Τα μεγαλύτερα παράθυρα πλαισίου σημαίνουν υψηλότερο κόστος input tokens αλλά επίσης επιτρέπουν πιο σύνθετη σκέψη. Η κοπή του ιστορικού συνομιλίας μειώνει το κόστος εισόδου αλλά μπορεί να υποβαθμίσει την ποιότητα απάντησης. Βρείτε την ισορροπία που λειτουργεί για την περίπτωσή σας.

• Συνολικό παράθυρο συνάφειας 100.000 tokens για input συν output
• 16,000 μέγιστα tokens εξόδου ανά αίτημα
• 2.048 προεπιλεγμένα tokens εξόδου αν λείπει το max_tokens
• Το context window επηρεάζει τόσο το κόστος όσο και την ποιότητα απόκρισης

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Υπολογισμός Tokens Ροής vs Μη Ροής

Οι ροές απόκρισης (streaming) υπολογίζουν τα tokens με τον ίδιο τρόπο όπως οι μη ροές. Κάθε token που αποστέλλεται στον πελάτη μετράται στο προπληρωμένο υπόλοιπό σας, ανεξάρτητα από τη μέθοδο παράδοσης. Η ροή απλώς παραδίδει τα tokens σταδιακά αντί για όλα ταυτόχρονα.

Χρησιμοποιήστε streaming όταν χρειάζεστε ανατροφοδότηση σε πραγματικό χρόνο αλλά παρακολουθείτε προσεκτικά τη χρήση tokens. Το τελευταίο chunk περιέχει συνολικές μετρήσεις tokens τόσο για είσοδο όσο και για έξοδο. Παρακολουθήστε αυτές τις μετρήσεις για να μείνετε εντός του προϋπολογισμού σας.

• Τα streaming και non-streaming χρησιμοποιούν ίδιο μετρητή tokens
• Κάθε token που στέλνεται στον πελάτη καταναλώνει credits
• Το τελικό chunk περιλαμβάνει συνολικούς μετρητές tokens εισόδου και εξόδου
• Παρακολουθήστε τη χρήση tokens στην υλοποίηση streaming σας

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Συχνά σφάλματα διαμόρφωσης SDK

Οι λανθασμένες ρυθμίσεις SDK προκαλούν απρόσμενες χρεώσεις στέλνοντας πάρα πολλά tokens ή κάνοντας περιττές αιτήσεις. Οι προγραμματιστές συχνά ξεχνούν να ορίσουν το max_tokens, με αποτέλεσμα απρόσμενα μακρές απαντήσεις. Άλλοι παραλείπουν τις υλοποιήσεις streaming που συνεχίζουν να στέλνουν tokens μετά την ολοκλήρωση της απάντησης.

Ρυθμίστε το SDK σας με ρητές παραμέτρους. Ορίστε max_tokens για να ελέγξετε το μήκος εξόδου. Ενεργοποιήστε streaming μόνο όταν χρειάζεστε ανατροφοδότηση σε πραγματικό χρόνο. Παρακολουθήστε τη χρήση tokens στα logs της εφαρμογής σας.

• Ορίστε ρητά max_tokens για να ελέγξετε το μήκος output
• Ενεργοποιήστε τη ροή μόνο όταν χρειάζεται ανατροφοδότηση σε πραγματικό χρόνο
• Παρακολουθήστε τις μετρήσεις tokens στα logs της εφαρμογής σας
• Ρυθμίστε τιμές timeout για να αποτρέψετε την αναστολή αιτήσεων

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Γιατί τα προκαταβλεπόμενα πιστωτικά υπόλοιπα γλιτώνουν χρήματα

Τα προπληρωμένα πιστωτικά υπόλοιπα εξαλείφουν τη σπατάλη συνδρομής χρεώνοντας μόνο για την πραγματική κατανάλωση tokens. Το σύστημά μας χρεώνει $0.15 ανά εκατομμύριο tokens εισόδου και $0.50 ανά εκατομμύριο tokens εξόδου. Τα σφάλματα και οι απορρίψεις καταναλώνουν μηδέν tokens, οπότε δεν πληρώνετε ποτέ για αποτυχημένες αιτήσεις.

Πληρώστε $20 έως $500 σε κρυπτονομίσματα για USDT στο TRC20 ή USDC στο Base. Λάβετε bonus υπόλοιπο όταν κάνετε επαναφορά $50 ή περισσότερο. Τα πιστωτικά υπόλοιπα δεν λήγουν, ώστε να τα χρησιμοποιείτε όποτε χρειαστείτε. Χωρίς μηνιαίες χρεώσεις, πληρώνετε μόνο για αυτό που καταναλώνετε πραγματικά.

• Τα προπληρωμένα πιστωτικά υπόλοιπα χρεώνουν μόνο για την πραγματική κατανάλωση tokens
• Τα σφάλματα και οι απορρίψεις καταναλώνουν μηδέν tokens
• Επικαιροποίηση $20 έως $500 σε κρυπτονομίσματα
• Τα credits δεν λήγουν ποτέ και ισχύει bonus credit

Αποφυγή κυρώσεων ορίων ρυθμού

Τα όρια ρυθμού αποτρέπουν την κακοχρήση αλλά μπορεί να διακόψουν την εφαρμογή σας αν ρυθμιστούν λανθασμένα. Το API μας επιτρέπει 300 αιτήματα ανά λεπτό ανά κλειδί και 8 ταυτόχρονα αιτήματα ανά κλειδί. Τα σώματα αιτημάτων πρέπει να παραμένουν κάτω από 8 MB για να αποφεύγεται η απόρριψη.

Εφαρμόστε λογική επανάληψης με εκθετική υστέρηση όταν συναντάτε όρια ρυθμού. Παρακολουθήστε τον αριθμό των αιτημάτων ανά λεπτό για να παραμείνετε εντός των ορίων. Χρησιμοποιήστε ξεχωριστά κλειδιά για τα διάφορα συστατικά της εφαρμογής σας για την κατανομή του φορτίου. Ένα ενεργό κλειδί ανά λογαριασμό σημαίνει ότι πρέπει να διαχειρίζεστε προσεκτικά την εναλλαγή κλειδιών.

• 300 αιτήματα ανά λεπτό ανά κλειδί API
• 8 concurrent requests allowed per key
• Τα σώματα αιτήσεων πρέπει να είναι κάτω από 8 MB
• Ένα ενεργό κλειδί ανά λογαριασμό με δυνατότητα αντικατάστασης

Σύγκριση κόστους μοντέλων uncensored

Τα μοντέλα χωρίς λογοκρισία συχνά κοστίζουν περισσότερο από τα τυπικά μοντέλα λόγω εξειδικευμένης εκπαίδευσης και απαιτήσεων παραγωγής. Το μοντέλο μας χρεώνει $0.15 ανά εκατομμύριο tokens εισόδου και $0.50 ανά εκατομμύριο tokens εξόδου. Αυτή η τιμολόγηση αντανακλά τους πόρους υπολογιστικής ισχύος που απαιτούνται για την παραγωγή χωρίς λογοκρισία.

Τα τυπικά μοντέλα μπορεί να κοστίζουν λιγότερο αλλά περιλαμβάνουν περιορισμούς περιεχομένου που επηρεάζουν την ποιότητα της απόκρισης. Τα μοντέλα uncensored παρέχουν απεριόριστες απαντήσεις για νόμιμο περιεχόμενο για ενήλικες, φαντασία και έρευνα. Επιλέξτε βάσει των αναγκών περιεχομένου και όχι μόνο της τιμής.

• Τα μοντέλα χωρίς λογοκρισία απαιτούν εξειδικευμένη εκπαίδευση και συμπερασματική επεξεργασία.
• Η τιμολόγησή μας αντανακλά τα κόστη υπολογισμών uncensored παραγωγής
• Οι περιορισμοί περιεχομένου επηρεάζουν την ποιότητα της απόκρισης και το κόστος
• Επιλέξτε βάσει των αναγκών περιεχομένου όχι μόνο της τιμής

Παρακολούθηση χρήσης και ειδοποιήσεις χρέωσης

Η παρακολούθηση χρήσης tokens σας βοηθά να παρακολουθείτε το κόστος και να αποτρέψετε την υπέρβαση του προϋπολογισμού. Η API μας επιστρέφει μετρήσεις tokens σε κάθε απάντηση, συμπεριλαμβανομένων των streaming απαντήσεων. Παρακολουθήστε αυτές τις μετρήσεις στα logs και τους πίνακες ελέγχου της εφαρμογής σας.

Ρυθμίστε ειδοποιήσεις όταν η χρήση φτάσει σε ορισμένα κατώφλια. Παρακολουθήστε τους λόγους input versus output token για να βελτιστοποιήσετε τα prompts σας. Χρησιμοποιήστε τις μετρήσεις token για να υπολογίσετε τα πραγματικά κόστη και να συγκρίνετε με το υπόλοιπο προπληρωμένων πιστωτικών μονάδων.

• Οι αριθμοί tokens εμφανίζονται σε κάθε απόκριση συμπεριλαμβανομένης της ροής
• Παρακολουθήστε τους λόγους tokens εισόδου προς εξόδου
• Ορίστε ειδοποιήσεις χρήσης για να αποφύγετε την υπέρβαση του προϋπολογισμού
• Υπολογίστε τα πραγματικά κόστη χρησιμοποιώντας μετρήσεις tokens