Hızlı Başlangıç: OpenAI SDK'nızı bağlayın

Önkoşullar: SDK ve ortam

Tercih ettiğiniz dil için resmi istemci kütüphanesini yükleyin. Modern bir Python veya Node.js çalışma zamanına ve kontrol panelinizden geçerli bir API anahtarına ihtiyacınız olacaktır. Ortam değişkenleri istemci örneğini başlatmadan önce güvenli bir şekilde ayarlanmalıdır.

Yapılandırma: base_url ve API anahtarı

SDK'nızı varsayılan OpenAI ana bilgisayar yerine özel uç noktamıza yönlendirin. Kontrol panelinizde sağlanan temel URL'yi kullanın ve oluşturduğunuz anahtarı standart yetkilendirme başlığına atayın. Bu, özel başlıklara gerek kalmadan tüm isteklerin doğru şekilde sansürsüz model altyapımıza yönlendirilmesini sağlar.

İlk sohbet tamamlamanızı gönderme

Bağlantı doğrulaması yapmak için chat completions endpoint'ine basit bir POST isteği gönderin. Abliterasyon yapılmış modelimiz standart prompt'lara anında yanıt verir, böylece hemen reddiye olmadan içerik oluşturmayı test edebilirsiniz. Anahtarınızın çalıştığını doğrulamak için aşağıdaki örneği kullanın:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Yanıt, modelin girdinizi izin verilen bağlam penceresi içinde işlediğini doğrular. Artık bu mantığı uygulama iş akışlarınıza entegre edebilirsiniz.

Python SDK uygulaması

İstek seri hale getirmesini otomatik olarak yönetmek için resmi Python kütüphanesini kullanın. Base URL'i alan adımıza ayarlayın ve API anahtarınızı birincil kimlik doğrulama parametresi olarak iletin. Bu yaklaşım yerel testler ve üretim dağıtımları için aynı şekilde çalışır.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ağ hataları veya geçersiz anahtarlar standart HTTP istisnaları oluşturacağından özel durumları düzgün şekilde işlediğinizden emin olun. Kütüphane, ön ödemeli bakiyeniz için token sayımını verimli bir şekilde yönetir.

Node SDK uygulaması

İstemciyi Node.js ortamınızda doğru temel URL ve API anahtarıyla başlatın. SDK, farklı kullanım durumları için hem senkron hem de asenkron kalıpları destekler. Tutarlı sonuçlar için model kimliğini "uncensored" olarak yapılandırın.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Node kullanıcıları, Python kullanıcılarıyla aynı token fiyatlandırma yapısından ve hız sınırlarından yararlanır. Önceden ödenen kredinin tüketimini doğru şekilde izlemek için kullanım panonuzu izleyin.

Akış yanıtları ve limitler

Akışı etkinleştirerek belirteçleri aşamalı olarak alın ve bu, uzun çıktılar için algılanan gecikmeyi azaltır. API'miz gerçek zamanlı metin üretimi için Sunucu Tarafından Gönderilen Olayları (SSE) destekler; bu da sohbet arayüzleri için idealdir. Yüksek hacimli kullanımda hız sınırlamalarını (429) ve belirteç kısıtlamalarını gözlemleyin.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Her istek 100.000 tokenlık bağlam penceresini ve 16.000 tokenlık çıktı sınırını saygı duyar. 401 hataları geçersiz kimlik bilgilerini, 402 hataları yetersiz ön ödemeli krediyi gösterir. Yük reddedilmelerini önlemek için istekleri 8 MB altında tutun.