क्विकस्टार्ट: अपना OpenAI SDK कनेक्ट करें

आवश्यकताएँ: SDK और पर्यावरण

अपनी पसंदीदा भाषा के लिए आधिकारिक क्लाइंट लाइब्रेरी इंस्टॉल करें। आपको एक आधुनिक Python या Node.js रनटाइम और अपने डैशबोर्ड से एक वैध API कुंजी की आवश्यकता होगी। वातावरण चर को क्लाइंट इंस्टेंस को इनिशियलाइज़ करने से पहले सुरक्षित रूप से सेट किए जाने चाहिए।

कॉन्फ़िगरेशन: base_url और API कुंजी

अपने SDK को डिफ़ॉल्ट OpenAI होस्ट के बजाय हमारे विशिष्ट एंडपॉइंट की ओर निर्देशित करें। अपने डैशबोर्ड में प्रदान किए गए बेस URL का उपयोग करें और अपनी उत्पन्न कुंजी को मानक प्रमाणीकरण हेडर में सौंपें। यह सुनिश्चित करता है कि सभी अनुरोध सही ढंग से हमारे अनसेंसर्ड मॉडल इंफ्रास्ट्रक्चर पर रूट होते हैं, बिना कस्टम हेडर की आवश्यकता के।

अपनी पहली चैट कंप्लीशन भेजना

कनेक्टिविटी की जांच करने के लिए /v1/chat/completions चैट कंप्लीशन एंडपॉइंट पर एक सरल POST अनुरोध करें। हमारा uncensored मॉडल मानक प्रॉम्प्ट्स के तुरंत प्रतिक्रिया देता है, जिससे आपको बिना तुरंत अस्वीकृति के कंटेंट जनरेशन का परीक्षण करने की अनुमति मिलती है। अपनी कुंजी के काम करने की पुष्टि करने के लिए निम्नलिखित उदाहरण का उपयोग करें:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

प्रतिक्रिया पुष्टि करती है कि मॉडल ने आपकी इनपुट को अनुमत संदर्भ विंडो के भीतर प्रोसेस किया है। आप अब इस लॉजिक को अपने एप्लिकेशन वर्कफ़्लो में एकीकृत कर सकते हैं।

Python SDK कार्यान्वयन

आनुरोध सीरियलाइजेशन को स्वचालित रूप से संभालने के लिए आधिकारिक Python लाइब्रेरी का उपयोग करें। बेस URL को हमारे डोमेन पर सेट करें और अपनी API कुंजी को प्राथमिक प्रमाणीकरण पैरामीटर के रूप में पास करें। यह दृष्टिकोण लोकल टेस्टिंग और प्रोडक्शन डिप्लॉयमेंट दोनों के लिए समान रूप से काम करता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

सुनिश्चित करें कि आप अपवादों को उचित रूप से हैंडल करते हैं, क्योंकि नेटवर्क त्रुटियां या अमान्य कुंजियां मानक HTTP अपवाद उत्पन्न करेगी। लाइब्रेरी आपके प्रीपेड बैलेंस के लिए टोकन गणना को कुशलता से प्रबंधित करती है।

Node SDK कार्यान्वयन

अपने नोड.जेएस वातावरण में सही बेस यूआरएल और एपीआई कुंजी के साथ क्लाइंट को इनिशियलाइज़ करें। SDK अलग-अलग उपयोग मामलों के लिए सिंकरोनास और असिंकरोनास दोनों पैटर्नों का समर्थन करता है। स्थिर परिणामों के लिए मॉडल आईडी को "uncensored" पर कॉन्फ़िगर करें।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Node उपयोगकर्ता Python उपयोगकर्ताओं के समान टोकन मूल्य निर्धारण संरचना और रेट लिमिट्स से लाभान्वित होते हैं। प्रीपेड क्रेडिट खपान का सटीक ट्रैकिंग करने के लिए अपने उपयोग डैशबोर्ड की निगरानी करें।

स्ट्रीमिंग रिस्पॉन्स और लिमिट्स

स्ट्रीमिंग को सक्षम करें ताकि टोकन क्रमिक रूप से प्राप्त हो सकें, जिससे लंबे आउटपुट के लिए प्रतीत होने वाली विलंबता कम हो। हमारा API रियल-टाइम टेक्स्ट जनरेशन के लिए Server-Sent Events का समर्थन करता है, जो चैट इंटरफेस के लिए आदर्श है। हाई-वॉल्यूम उपयोग के दौरान रेट लिमिट्स (429) और टोकन बाधाओं के लिए सावधान रहें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

प्रत्येक अनुरोध 100,000-टोकन संदर्भ विंडो और 16,000-टोकन आउटपुट सीमा का सम्मान करता है। 401 जैसे त्रुटियां अमान्य क्रेडेंशियल इंगित करती हैं, जबकि 402 अपर्याप्त प्रीपेड क्रेडिट संकेत देता है। पेलोड अस्वीकृतियों से बचने के लिए अनुरोधों को 8 MB से नीचे रखें।