Gyors beállítások: OpenAI SDK csatlakoztatása

Előfeltételek: SDK és környezet

Telepítse a hivatalos klienskönyvtárat a választott nyelvhez. Modern Python vagy Node.js futtatókörnyezetre és egy érvényes API-kulcsra van szüksége a felületről. A környezeti változókat biztonságosan be kell állítani a klienspéldány inicializálása előtt.

Konfiguráció: base_url és API-kulcs

Irányítsd az SDK-d a mi specifikus végpontunkra a szabványos OpenAI hoszt helyett. Használd a dashboardodban megadott base URL-t, és állítsd be a generált kulcsot a szabványos authorization fejlécre. Ez biztosítja, hogy minden kérés megfelelően az uncensored modell infrastruktúránkra irányuljon, egyedi fejlécek nélkül.

Az első chat befejezés küldése

Tegyen egy egyszerű POST kérést a chat completions végpontra a kapcsolódás ellenőrzéséhez. Uncensored modellünk azonnal reagál a szabványos promptokra, lehetővé téve a tartalomgenerálás tesztelését azonnali visszautasítások nélkül. Használja az alábbi példát a kulcs ellenőrzéséhez:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

A válasz megerősíti, hogy a modell feldolgozta a bemenetet az engedélyezett kontextusablakon belül. Most integrálhatja ezt a logikát az alkalmazás munkafolyamataiba.

Python SDK implementáció

Használja a hivatalos Python könyvtárat a kérések automatikus szerializálásához. Állítsa be a base URL-t a domainünkre, és adja meg az API kulcsot elsődleges hitelesítési paraméterként. Ez a megközelítés ugyanúgy működik helyi teszteléshez és éles környezetben is.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Győződjön meg róla, hogy megfelelően kezeli a kivételeket, mivel a hálózati hibák vagy érvénytelen kulcsok szabványos HTTP-kivételeket váltanak ki. A könyvtár hatékonyan kezeli a token-számlálást a előre fizetett egyenlegéhez.

Node SDK implementáció

Inicializálja a klienst a helyes alap URL-címmel és API-kulccsal Node.js környezetben. Az SDK támogatja a szinkron és aszinkron mintákat különböző felhasználási esetekhez. Konfigurálja a modellazonosítót "uncensored" értékre a konzisztens eredmények érdekében.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

A Node felhasználók számára elérhető ugyanaz a token alapú árazási struktúra és sávszélesség-korlát, mint a Python felhasználók számára. Kövesse nyomon a használati statisztikákat a felületen a előre fizetett kredit fogyasztásának pontos követéséhez.

A streamelt válaszok és a korlátok

A streamelés engedélyezésével fokozatosan fogadhatja a tokeneket, csökkentve a hosszú kimenetek észlelt késleltetését. API-nk támogatja a Server-Sent Events technológiát a valós idejű szöveggeneráláshoz, ami ideális chat felületekhez. Figyeljen az átfolyási korlátokra (429) és a token-korlátokra nagy terhelés esetén.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Minden kérés tiszteletben tartja a 100,000 tokenes kontextusablakot és a 16,000 tokenes kimeneti korlátot. A 401-es hibák érvénytelen hitelesítő adatokat jeleznek, a 402-es pedig elégtelen előleges kreditet. Tartsa a kéréseket 8 MB alatt a payload elutasításának elkerülése érdekében.