Mula Cepat: Sambungkan SDK OpenAI anda

Prasyarat: SDK dan persekitaran

Pasang perpustakaan klien rasmi untuk bahasa pilihan anda. Anda memerlukan runtime Python atau Node.js moden dan kunci API yang sah dari papan pemuka anda. Pembolehubah persekitaran harus ditetapkan dengan selamat sebelum menginisialisasikan contoh klien.

Konfigurasi: base_url dan kunci API

Arahkan SDK anda ke hujung khusus kami berbanding hos OpenAI lalai. Gunakan URL asas yang disediakan dalam papan pemuka anda dan tetapkan kunci yang dijana kepada header pengesahan standard. Ini memastikan semua permintaan disalurkan dengan betul ke infrastruktur model tanpa sensor kami tanpa memerlukan header tersuai.

Menghantar penyiapan sembang pertama anda

Buat permintaan POST mudah ke hujung titik penyelesaian chat untuk mengesahkan sambungan. Model uncensored kami memberi respons serta-merta kepada arahan standard, membolehkan anda menguji penjanaan kandungan tanpa penolakan serta-merta. Gunakan contoh berikut untuk mengesahkan kunci anda berfungsi:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Respons mengesahkan bahawa model telah memproses input anda dalam tetingkap konteks yang dibenarkan. Anda kini boleh mengintegrasikan logik ini ke dalam aliran kerja aplikasi anda.

Python SDK implementation

Gunakan perpustakaan Python rasmi untuk mengendalikan serialisasi permintaan secara automatik. Tetapkan URL asas ke domain kami dan hantar kunci API anda sebagai parameter pengesahan utama. Pendekatan ini berfungsi sama untuk pengujian tempatan dan pelaksanaan pengeluaran.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pastikan anda mengendalikan pengecualian dengan betul, kerana rangkaian atau kunci tidak sah akan menimbulkan pengecualian HTTP standard. Perpustakaan mengira token dengan cekap untuk baki pra-dibayar anda.

Implementasi SDK Node

Mulakan klien dengan URL asas dan kunci API yang betul dalam persekitaran Node.js anda. SDK menyokong kedua-dua corak sinkron dan asinkron untuk kesgunaan berbeza. Konfigurasikan ID model kepada "uncensored" untuk hasil yang konsisten.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pengguna Node mendapat manfaat dari struktur harga token dan had kadar yang sama seperti pengguna Python. Pantau papan pemuka penggunaan anda untuk melacak penggunaan kredit pra-dibayar dengan tepat.

Respons aliran dan had

Dayakan penstriman untuk menerima token secara berperingkat, mengurangkan latensi yang dirasakan untuk output yang panjang. API kami menyokong Server-Sent Events untuk penjanaan teks masa nyata, yang sangat sesuai untuk antara muka sembang. Perhatikan had kadar (429) dan kekangan token semasa penggunaan bervolume tinggi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Setiap permintaan menghormati tetingkap konteks 100,000 token dan had output 16,000 token. Ralat seperti 401 menunjukkan kelayakan tidak sah, manakala 402 menandakan kredit pra-dibayar tidak mencukupi. Kekalkan permintaan di bawah 8 MB untuk mengelakkan penolakan muatan.