מחירי API של OpenAI: טעויות נפוצות וכיצד להימנע מהן

הבנת עלויות טוקנים: קלט מול פלט

מחירי API של OpenAI גובים תמורה נפרדת עבור אסימוני קלט ופלט. זה אומר שהעלות הכוללת שלך תלויה הן בכמה שאתה שולף והן בכמה שהמודל מייצר. אסימוני קלט מכסים את הפומפט שלך ואת היסטוריית השיחה. אסימוני פלט מכסים את טקסט התגובה של המודל.

המודל הלא-מחוסם שלנו גובה $0.15 על כל מיליון אסימוני קלט ו-$0.50 על כל מיליון אסימוני פלט. עלות הפלט הגבוהה יותר משקפת את החישוב הנדרש ליצירת טקסט. תגובות קצרות עולות פחות אך עדיין צורכות את האשראי המוקדם שלך.

• אסימוני קלט כוללים את ההנחיה ואת היסטוריית השיחה
• אסימוני הפלט מכסים את התגובה המלאה של המודל
• שני סוגי הטוקנים נספרים יחד עם יתרתך ששולמה מראש
• שגיאות וסירובים צורכים אפס טוקנים

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

מגבלות זיכרון ההקשר וחשבוניות מפתיעות

מגבלות חלון ההקשר משפיעות ישירות על עלויות הטוקנים שלך מכיוון ששיחות ארוכות צורכות יותר טוקני קלט. המודל שלנו ללא צנזורה תומך בחלון הקשר של 100,000 טוקנים לפלט ולשלמה יחד. ניתן לייצר עד 16,000 טוקנים לבקשה. אם תשמיט את max_tokens, המגבלה יורדת ל-2,048 טוקנים.

חלונות הקשר הארוכים אומרים עלויות גבוהות יותר לטוקני קלט אבל גם מאפשרים חשיבה מורכבת יותר. חיתוך היסטוריית השיחה מפחית עלויות קלט אבל עלול להחמיר את איכות התגובה. מצא את האיזון שמתאים למקרה השימוש שלך.

• חלון הקשר הכולל של 100,000 עבור קלט ועד פלט
• 16,000 אסימוני פלט מקסימליים לכל בקשה
• 2,048 טוקני פלט מובנים אם max_tokens מושמט
• חלון הקשר משפיע על עלויות ואיכות התגובה

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

חישוב אסימונים בזרימה לעומת לא בזרימה

תגובות בזרם מחשבות אסימונים באותו אופן כמו בקשות לא-זרימתיות. כל אסימון שנשלח ללקוח נספר יחד עם יתרת המטען שלך, ללא קשר לשיטת ההגשה. הזרמה פשוט מספקת אסימונים בצורה עוקבת ולא כולם בבת אחת.

השתמשו בזרימה כשאתם צריכים משוב בזמן אמת אך עוקבים אחר שימוש באסימונים בקפידה. הקטע הסופי מכיל ספירות אסימונים כוללות הן לקלט והן לפלט. פקחו על ספירות אלו כדי להישאר בתוך התקציב שלכם.

• סטרימינג ולא-סטרימינג משתמשים בספירת אסימונים זהה
• כל אסימון שנשלח ללקוח צורך קרדיטים
• החלק הסופי כולל ספירות אסימונים כוללות של קלט ופלט
• עקבו אחר שימוש בטוקנים ביישום הסטרימינג שלכם

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

שגיאות תצורה נפוצות ב-SDK

תקלות תצורה של SDK גורמות לחיובים לא צפויים על ידי שליחת טוקנים רבים מדי או ביצוע בקשות מיותרות. מפתחים רבים שוכחים להגדיר את max_tokens, מה שמוביל לתגובות ארוכות באופן לא צפוי. אחרים מפספים מימושים של streaming שממשיכים לשלוח טוקנים לאחר השלמת התגובה.

הגדר את ה-SDK עם פרמטרים מפורשים. הגדר max_tokens כדי לשלוט באורך הפלט. הפעל זרימה (streaming) רק כאשר אתה צריך משוב בזמן אמת. עקוב אחר שימוש באסימונים ביוגים של היישום שלך.

• הגדר מקסימום טוקנים מפורש כדי לשלוט באורך הפלט
• הפעילו זרם (streaming) רק כאשר נדרש משוב בזמן אמת
• מעקב אחר ספירות טוקנים ביומני היישום שלך
• הגדר ערכי פסק זמן כדי למנוע בקשות תלויות

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

מדוע אשראי מקדמה חוסך לך כסף

אשראי מקדמי מבטל בזבוז מנוי על ידי גבייה רק על שימוש אמיתי באסימונים. המערכת שלנו גובה $0.15 על כל מיליון אסימוני קלט ו-$0.50 על כל מיליון אסימוני פלט. שגיאות ודחייות צורכות אסימון אפס כך שאתה לעולם לא משלם על בקשות שנכשלו.

שלם $20 עד $500 בקריפטו עבור USDT ברשת TRC20 או USDC ברשת Base. קבל אשראי בונוס בעת טעינה של $50 ומעלה. האשראי לא פג תוקף כך שתוכל להשתמש בו בכל עת. ללא תשלום חודשי, כך שאתה משלם רק עבור מה שאתה צורך בפועל.

• אשראי מקדמי גובה רק על שימוש אמיתי באסימונים
• שגיאות וסירובים צורכים אפס טוקנים
• העלה $20 עד $500 בקריפטו
• קרדיטים לעולם לא פג תוקף וקרדיט בונוס חל

הימנעות מעונשי גבול קצב

מגבלות קצב מונעות שימוש לרעה אך יכולות להפריע לאפליקציה שלך אם הוגדרו לא נכון. ה-API שלנו מאפשר 300 בקשות לדקה לכל מפתח ו-8 בקשות מקבילות לכל מפתח. גופי הבקשה חייבים להישאר מתחת ל-8 MB כדי להימנע מדחייה.

הטמעת לוגיקת ניסיון חוזר עם פיגור מעריכי בעת פגיעה במגבלות קצב. מעקב אחר ספירת הבקשות לדקה כדי להישאר בתוך המגבלות. השתמש במפתחות נפרדים עבור רכיבי אפליקציה שונים כדי לחלק את העומס. מפתח פעיל אחד לכל חשבון אומר שאתה חייב לנהל החלפת מפתחות בזהירות.

• 300 בקשות לדקה לכל מפתח API
• 8 בקשות מקבילות מותרות למפתח
• גופי בקשה חייבים להיות מתחת ל-8 MB
• מפתח פעיל אחד לחשבון עם יכולת החלפה

השוואת עלויות מודל ללא צנזורה

מודלים ללא צנזרה לעיתים קרובות עולים יותר ממודלים סטנדרטיים בשל דרישות אימון והסקה מיוחדות. המודל שלנו גובה $0.15 לכל מיליון טוקני קלט ו-$0.50 לכל מיליון טוקני פלט. מחיר זה משקף את משאבי המחשוב הנדרשים ליצירה ללא צנזורה.

מודלים סטנדרטיים עשויים לעלות פחות אך כוללים הגבלות תוכן שמשפיעות על איכות התגובה. מודלים ללא צנזורה מספקים תגובות ללא הגבלה לתוכן מבוגר חוקי, סיפורים ומחקר. בחר בהתאם לצרכי התוכן שלך ולא רק למחיר.

• מודלים ללא צנזורה דורשים אימון והסקה מיוחדים
• התמחור שלנו משקף עלויות חישוב יצירה לא-מחוסמת
• הגבלות תוכן משפיעות על איכות התגובה ועלות
• בחרו בהתאם לצרכי התוכן ולא רק למחיר

מעקב והתראות חשבון

מעקב אחר שימוש בטוקנים עוזר לך לנטר עלויות ולמנוע חריגות מתקציב. ה-API שלנו מחזיר ספירות טוקנים בכל תגובה, כולל תגובות סטרימינג. עקוב אחר ספירות אלו ביומני האפליקציה ולוחות הבקרה שלך.

הגדירו התראות כאשר הצריכה מגיעה לספים מסוימים. ניטרו את היחס בין אסימוני קלט לאסימוני פלט כדי לשפר את הפקודות שלכם. השתמשו בספירות האסימונים כדי לחשב עלויות אמיתיות ולהשוות מול היתרה המוקדמת שלכם.

• ספירות טוקנים מופיעות בכל תגובה כולל סטרימינג
• מעקב אחר יחסי טוקני קלט מול פלט
• הגדר התראות שימוש כדי למנוע חריגה מהתקציב
• חישוב עלויות אמיתיות באמצעות ספירת אסימונים