OpenAI API Fiyatlandırması: Yaygın Hatalar ve Nasıl Kaçınılır

Token maliyetleri: girdi vs. çıktı

OpenAI API fiyatlandırması girdi ve çıktı tokenlarını ayrı ayrı ücretlendirir. Bu, toplam maliyetinizin hem ne kadar veri gönderdiğinize hem de modelin ne kadar veri ürettiğine bağlı olduğu anlamına gelir. Girdi tokenları prompt'unuzu ve herhangi bir konuşma geçmişinizi kapsar. Çıktı tokenları modelin yanıt metnini kapsar.

Kusursuz modelimiz, milyon giriş tokeni başına $0.15 ve milyon çıktı tokeni başına $0.50 ücretlendirir. Daha yüksek çıktı maliyeti, metin oluşturmak için gereken işlem gücünü yansıtır. Daha kısa yanıtlar daha az maliyetlidir ancak yine de ön ödemeli kredilerinizi tüketir.

• Giriş tokenları, prompt'unuzu ve konuşma geçmişinizi içerir
• Çıktı tokenları modelin tam yanıtını kapsar
• Her iki token türü de ön ödemeli bakiyenize dahil edilir
• Hatalar ve reddetmeler sıfır token tüketir

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Bağlam penceresi limitleri ve beklenmedik faturalar

Bağlam penceresi limitleri, token maliyetlerinizi doğrudan etkiler çünkü daha uzun konuşmalar daha fazla girdi tokenı tüketir. Uncensored modelimiz, istem ve tamamlama birlikte için 100.000 tokenlık bir bağlam penceresi destekler. İstek başına 16.000 token'a kadar oluşturabilirsiniz. max_tokens'ı bırakırsanız sınır 2.048 token'a düşer.

Daha uzun bağlam pencereleri daha yüksek giriş token maliyetleri anlamına gelir ancak aynı zamanda daha karmaşık akıl yürütmeyi de mümkün kılar. Konuşma geçmişini kısaltmak giriş maliyetlerini düşürür ancak yanıt kalitesini bozabilir. Kullanım durumunuz için çalışan dengeyi bulun.

• Girdi ve çıktı için 100.000 toplam bağlam penceresi
• İstek başına maksimum 16.000 çıktı token'ı
• max_tokens belirtilmezse varsayılan 2.048 çıktı tokenı
• Bağlam penceresi hem maliyetleri hem de yanıt kalitesini etkiler

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Akışlı ve akışsız belirteç hesaplama

Akış yanıtları, akış olmayan istekler gibi tokenları aynı şekilde hesaplar. İstemciye gönderilen her token, teslim yönteminden bağımsız olarak ön ödemeli bakiyenize dahil edilir. Akış, tokenları tek seferde değil, artımlı olarak iletir.

Gerçek zamanlı geri bildirim gerektiğinde ancak belirteç kullanımını dikkatle izlediğinizde akış kullanın. Son parça, hem girdi hem de çıktı için toplam belirteç sayılarını içerir. Bütçenizin içinde kalmak için bu sayıları izleyin.

• Akış ve akış olmayanlar aynı token sayımını kullanır
• İstemciye gönderilen her token kredileri tüketir
• Son chunk toplam giriş ve çıkış token sayılarını içerir
• Akış uygulamanızda token kullanımını izleyin

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Sık Karşılaşılan SDK yapılandırma hataları

SDK yapılandırma hataları, çok fazla token göndererek veya gereksiz istekler yaparak beklenmeyen ücretlere yol açar. Geliştiriciler sıklıkla max_tokens'i ayırmayı unutur ve bu da beklenmedik şekilde uzun yanıtlara neden olur. Başkaları, yanıt tamamlandıktan sonra token göndermeye devam eden streaming uygulamalarını kaçırır.

Açık parametrelerle SDK'nızı yapılandırın. Çıktı uzunluğunu kontrol etmek için max_tokens değerini ayarlayın. Sadece gerçek zamanlı geri bildirim gerektiğinde akışı (stream) etkinleştirin. Token kullanımını uygulama günlüklerinizde izleyin.

• Çıktı uzunluğunu kontrol etmek için açık max_tokens belirleyin
• Sadece gerçek zamanlı geri bildirim gerektiğinde akış yanıtlarını etkinleştirin
• Uygulama günlüklerinizde token sayılarını izleyin
• Asılı kalan istekleri önlemek için zaman aşımı değerlerini yapılandırın

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ön ödeme kredlerinin size nasıl para tasarrufu sağladığı

Ön ödemeli krediler, yalnızca gerçek token kullanımı için ücretlendirerek abonelik israfını ortadan kaldırır. Sistemimiz milyon giriş tokenı başına $0.15 ve milyon çıktı tokenı başına $0.50 ücretlendirir. Hatalar ve reddettmeler sıfır token tüketir, böylece başarısız istekler için asla ödeme yapmazsınız.

TRC20 üzerinde USDT veya Base üzerinde USDC ile kripto olarak $20 ile $500 arası yükleyin. $50 veya daha fazla yüklediğinizde bonus bakiye alın. Bakiyeler süresi dolmaz, bu nedenle ihtiyaç duyduğunuzda istediğiniz zaman kullanabilirsiniz. Aylık ücret yok, bu nedenle yalnızca gerçekten tükettiğiniz şey için ödeme yaparsınız.

• Ön ödemeli krediler yalnızca gerçek token kullanımı için ücretlendirir
• Hatalar ve reddetmeler sıfır token tüketir
• Kripto ile $20 ile $500 arasında yükleyin
• Kredi süresi dolmaz ve bonus kredi uygulanır

Hız sınırı cezalarından kaçının

Hız sınırları kötüye kullanımı önler ancak yanlış yapılandırıldığında uygulamanızı kesintiye uğratabilir. API'miz anahtar başına dakikada 300 istek ve anahtar başına 8 eşzamanlı istek iziner. İstek gövdeleri reddedilmemesi için 8 MB altında kalmalıdır.

Hız limitlerine ulaştığınızda üstel geri çekilme ile yeniden deneme mantığı uygulayın. Limitler içinde kalmak için dakika başına istek sayınızı izleyin. Yükü dağıtmak için farklı uygulama bileşenleri için ayrı anahtarlar kullanın. Hesap başına bir aktif anahtar, anahtar rotasyonunu dikkatli bir şekilde yönetmeniz gerektiği anlamına gelir.

• 300 requests per minute per API key
• Her anahtar başına 8 eşzamanlı istek izin verilir
• İstek gövdeleri 8 MB altında olmalıdır
• Hesap başına bir aktif anahtar, değiştirme yeteneği ile.

Uncensored model maliyetlerinin karşılaştırılması

Kısıtlanmamış modeller, özel eğitim ve çıkarım gereksinimleri nedeniyle standart modellerden genellikle daha pahalıdır. Modelimiz, milyon başına girdi tokenı için $0.15 ve milyon başına çıktı tokenı için $0.50 ücretlendirir. Bu fiyatlandırma, kısıtlanmamış oluşturma için gereken hesaplama kaynaklarını yansıtır.

Standart modeller daha ucuz olabilir ancak yanıt kalitesini etkileyen içerik kısıtlamaları içerir. Uncensored modeller, yasal yetişkin içeriği, kurgu ve araştırma için kısıtlamasız yanıtlar sağlar. Seçiminizi yalnızca fiyata göre değil, içerik ihtiyaçlarınıza göre yapın.

• Uncensored modellerler özel eğitim ve çıkarım gerektirir.
• Fiyatlandırma sansürsüz üretim hesaplama maliyetlerini yansıtır
• İçerik kısıtlamaları yanıt kalitesini ve maliyeti etkiler
• Fiyat yerine içerik ihtiyaçlarına göre seçin

Kullanım ve faturalandırma uyarılarını takip

Token kullanımı izleme, maliyetleri izlemenize ve bütçe aşımını önlemenize yardımcı olur. API'miz, akışlı yanıtlar dahil her yanıtta token sayılarını döndürür. Bu sayıları uygulama günlüklerinde ve kontrol panellerinde izleyin.

Kullanım belirli eşiklere ulaştığında uyarılar kurun. Promptlarınızı optimize etmek için giriş ile çıktı token oranlarını izleyin. Gerçek maliyetleri hesaplamak ve ön ödemeli bakiyenizle karşılaştırmak için token sayılarını kullanın.

• Token sayıları her yanıtta, akış (streaming) dahil olmak üzere görünür
• Giriş ve çıkış token oranlarını izleyin
• Bütçe aşımını önlemek için kullanım uyarı ayarlarını yapılandırın
• Token sayılarına göre gerçek maliyetleri hesaplayın