Hurtigstart: Forbind dit OpenAI SDK

Forudsætninger: SDK og miljø

Installer den officielle klientbibliotek til dit foretrukne sprog. Du skal bruge en moderne Python- eller Node.js-runtime og en gyldig API-nøgle fra dit dashboard. Miljøvariablerne skal indstilles sikkert, før klientinstansen initialiseres.

Konfiguration: base_url og API key

Peg din SDK til vores specifikke endpoint i stedet for standard OpenAI-hosten. Brug base URL'en angivet i dit dashboard, og tildel din genererede nøgle til standard autorisationsheaderen. Dette sikrer, at alle anmodninger sendes korrekt til vores ubegrænsede modelinfrastruktur uden behov for custom headers.

At sende din første chat completion

Lav en simpel POST-anmodning til chat-completions-endepunktet for at verificere forbindelsen. Vores ubegrænsede model svarer øjeblikkeligt på standardprompts, hvilket giver dig mulighed for at teste indholdsgenerering uden øjeblikkelige afvisninger. Brug følgende eksempel til at bekræfte, at din nøgle fungerer:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Svaret bekræfter, at modellen behandlede din input inden for det tilladte kontekstvindue. Du kan nu integrere denne logik i dine applikationsarbejdsgange.

Implementering af Python SDK

Brug det officielle Python-bibliotek til automatisk at håndtere anmodningsserialisering. Indstil base URL til vores domæne og angiv din API-nøgle som primær autentificeringsparameter. Denne tilgang fungerer identisk til lokal test og produktionsimplementeringer.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Sørg for, at du håndterer undtagelser korrekt, da netværksfejl eller ugyldige nøgler vil udløse standard HTTP-undtagelser. Biblioteket håndterer tokenoptælling effektivt for din forudbetalte saldo.

Node SDK-implementering

Initialiser klienten med den korrekte base URL og API-nøgle i dit Node.js-miljø. SDK'et understøtter både synkrone og asynkrone mønstre til forskellige use cases. Konfigurer model-ID til "uncensored" for konsistente resultater.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Node-brugere drager fordel af den samme tokenprissætning og hastighedsbegrænsninger som Python-brugere. Overvåg dit brugsdashboard for at spore forbrug af forudbetalt kredit nøjagtigt.

Streaming-respons og begrænsninger

Aktiver streaming for at modtage tokens progressivt, hvilket reducerer den opfattede latens for lange output. Vores API understøtter Server-Sent Events til realtids tekstgenerering, hvilket er ideelt til chatgrænseflader. Vær opmærksom på hastighedsbegrænsninger (429) og tokenbegrænsninger under høj belastning.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Hver forespørgsel respekterer 100.000-token kontekstvinduet og 16.000-token outputgrænsen. Fejl som 401 indikerer ugyldige legitimationsoplysninger, mens 402 signalerer utilstrækkelig forudbetalt kredit. Hold forespørgsler under 8 MB for at undgå afvisning af payload.