Snabbstart: Anslut ditt OpenAI SDK

Förutsättningar: SDK och miljö

Installera det officiella klientbiblioteket för ditt föredragna språk. Du behöver en modern Python- eller Node.js-runtime och en giltig API-nyckel från din dashboard. Miljövariablerna bör ställas in säkert innan du initierar klientinstansen.

Konfiguration: base_url och API-nyckel

Pekad ut ditt SDK mot vår specifika slutpunkt istället för standardvärdena för OpenAI-värd. Använd bas-URL:en som anges i ditt dashboard och tilldela din genererade nyckel till standard auktoriseringsheadern. Detta säkerställer att alla förfrågningar dirigeras korrekt till vår infrastruktur för modeller utan censur utan att behöva anpassade headrar.

Skickar din första chattslutförande

Gör en enkel POST-begäran till chatkompletteringsändpunkten för att verifiera anslutning. Vår obegränsade modell svarar omedelbart på standardprompts, vilket gör att du kan testa innehållsgenerering utan omedelbara vägran. Använd följande exempel för att bekräfta att din nyckel fungerar:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Svaret bekräftar att modellen bearbetade din inmatning inom det tillåtna kontextfönstret. Du kan nu integrera denna logik i dina applikationsflöden.

Implementering av Python SDK

Använd det officiella Python-biblioteket för att hantera begärandeserialisering automatiskt. Ange bas-URL:en till vår domän och ange din API-nyckel som primär autentiseringsparameter. Detta tillvägagångssätt fungerar identiskt för lokal testning och produktionsdistributioner.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Se till att du hanterar undantag korrekt, då nätverksfel eller ogiltiga nycklar kommer att utlösa standard HTTP-undantag. Biblioteket hanterar tokenräkning effektivt för din förbetala saldo.

Node SDK-implementering

Initiera klienten med korrekt bas-URL och API-nyckel i din Node.js-miljö. SDK:t stöder både synkrona och asynkrona mönster för olika användningsområden. Konfigurera modell-ID:t till "uncensored" för konsekventa resultat.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Node-användare drar nytta av samma tokenprissättning och hastighetsbegränsningar som Python-användare. Övervaka din användningsdashboard för att spåra förbetalt kreditförbrukning noggrant.

Strömsvaren och begränsningar

Aktivera streaming för att ta emot tokens progressivt, vilket minskar den upplevda latensen för långa svar. Vårt API stöder Server-Sent Events för realtids-textgenerering, vilket är idealiskt för chattgränssnitt. Observera hastighetsbegränsningar (429) och tokenbegränsningar vid hög belastning.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Varje begäran respekterar 100 000-token kontextfönstret och 16 000-token outputgränsen. Fel som 401 indikerar ogiltiga autentiseringsuppgifter, medan 402 signalerar otillräcklig förbetald kredit. Håll begäran under 8 MB för att undvika avvisning av payload.