Rychlý start: Připojení SDK OpenAI

Požadavky: SDK a prostředí

Nainstalujte oficiální klientskou knihovnu pro preferovaný jazyk. Budete potřebovat moderní runtime Python nebo Node.js a platný API klíč z vašeho dashboardu. Proměnné prostředí by měly být nastaveny bezpečně před inicializací instance klienta.

Konfigurace: base_url a API klíč

Nasměrujte své SDK na náš specifický koncový bod místo výchozího hostitele OpenAI. Použijte základní URL uvedenou ve vašem ovládacím panelu a přiřaďte vygenerovaný klíč ke standardní autorizační hlavičce. To zajišťuje, že všechny požadavky jsou správně směrovány do infrastruktury našeho modelu bez omezení bez nutnosti vlastních hlaviček.

Odeslání vašeho prvního dokončení chatu

Odešlete jednoduchý POST požadavek na endpoint dokončení chatu k ověření připojení. Náš model bez zábran okamžitě reaguje na standardní podněty, což vám umožňuje testovat generování obsahu bez okamžitých odmítnutí. Použijte následující příklad k potvrzení, že váš klíč funguje:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Odpověď potvrzuje, že model zpracoval váš vstup v rámci povoleného kontextového okna. Nyní můžete tuto logiku integrovat do pracovních postupů vaší aplikace.

Implementace Python SDK

Použijte oficiální Python knihovnu pro automatické serializování požadavků. Nastavte základní URL na naši doménu a předávejte svůj API klíč jako hlavní autentizační parametr. Tento přístup funguje stejně pro lokální testování i produkční nasazení.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ujistěte se, že správně zpracováváte výjimky, protože síťové chyby nebo neplatné klíče vyvolají standardní HTTP výjimky. Knihovna efektivně počítá tokeny pro váš předplacený zůstatek.

Implementace SDK pro Node

Inicializujte klienta se správnou základní URL a API klíčem ve vašem prostředí Node.js. SDK podporuje jak synchronní, tak asynchronní vzory pro různé případy použití. Nastavte ID modelu na "uncensored" pro konzistentní výsledky.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Uživatelé Node využívají stejnou strukturu cen za tokeny a limity rychlosti jako uživatelé Pythonu. Sledujte svůj přehled využití, abyste přesně sledovali spotřebu předplaceného kreditu.

Streamování odpovědí a limity

Povolte streamování pro postupné přijímání tokenů, což snižuje vnímanou latenci u dlouhých výstupů. Naše API podporuje Server-Sent Events pro generování textu v reálném čase, což je ideální pro chatová rozhraní. Dávejte pozor na omezení rychlosti (429) a omezení tokenů při vysokém zatížení.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Každý požadavek respektuje kontextové okno o velikosti 100 000 tokenů a limit výstupu 16 000 tokenů. Chyby jako 401 označují neplatné přihlašovací údaje, zatímco 402 signalizuje nedostatečný předplacený kredit. Udržujte požadavky pod 8 MB, abyste předešli odmítnutí payloadu.