เริ่มต้นอย่างรวดเร็ว: เชื่อมต่อ OpenAI SDK ของคุณ

ข้อกำหนดเบื้องต้น: SDK และสภาพแวดล้อม

ติดตั้งไลบรารีไคลเอนต์ทางการสำหรับภาษาที่คุณต้องการ คุณต้องการรันไทม์ Python หรือ Node.js รุ่นใหม่และคีย์ API ที่ถูกต้องจากแดชบอร์ดของคุณ ควรตั้งค่าตัวแปรสภาพแวดล้อมอย่างปลอดภัยก่อนเริ่มต้นอินสแตนซ์ไคลเอนต์

การกำหนดค่า: base_url และคีย์ API

ชี้ SDK ของคุณไปยังเอนด์พอยต์เฉพาะของเราแทนโฮสต์ OpenAI มาตรฐาน ใช้ URL พื้นฐานที่ให้ไว้ในแดชบอร์ดของคุณและกำหนดคีย์ที่สร้างของคุณให้กับ header การตรวจสอบสิทธิ์มาตรฐาน สิ่งนี้ทำให้แน่ใจว่าคำขอทั้งหมดจะถูกจัดเส้นทางอย่างถูกต้องไปยังโครงสร้างพื้นฐานโมเดลที่ไม่เซ็นเซอร์ของเราโดยไม่ต้องใช้ header แบบกำหนดเอง

การส่ง chat completion ครั้งแรกของคุณ

ส่งคำขอ POST ง่ายๆ ไปยังจุดจบ chat completions เพื่อตรวจสอบการเชื่อมต่อ โมเดล uncensored ของเราตอบสนองทันทีต่อ prompt มาตรฐาน ทำให้คุณสามารถทดสอบการสร้างข้อความโดยไม่มีการปฏิเสธทันที ใช้ตัวอย่างต่อไปนี้เพื่อยืนยันว่าคีย์ของคุณใช้งานได้:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

การตอบสนองยืนยันว่าโมเดลได้ประมวลผลอินพุตของคุณภายในหน้าต่างบริบทที่อนุญาตแล้ว ตอนนี้คุณสามารถผสานรวมลอจิกนี้เข้ากับเวิร์กโฟลว์แอปพลิเคชันของคุณได้

การนำไปใช้ Python SDK

ใช้ไลบรารี Python ทางการเพื่อจัดการการแปลงข้อมูลคำขอโดยอัตโนมัติ ตั้งค่า base URL ให้เป็นโดเมนของเราและส่งคีย์ API เป็นพารามิเตอร์การตรวจสอบสิทธิ์หลัก วิธีนี้ใช้งานได้เหมือนกันทั้งสำหรับการทดสอบในเครื่องและการปรับใช้แบบผลิต

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ตรวจสอบว่าคุณจัดการข้อยกเว้นได้อย่างเหมาะสมเนื่องจากข้อผิดพลาดของเครือข่ายหรือคีย์ที่ไม่ถูกต้องจะก่อให้เกิดข้อยกเว้น HTTP มาตรฐาน ไลบรารีจัดการการนับโทเค็นอย่างมีประสิทธิภาพสำหรับยอดเงินที่เติมเงินล่วงหน้าของคุณ

การนำไปใช้ Node SDK

เริ่มต้นใช้งาน client ด้วย base URL และ API key ที่ถูกต้องในสภาพแวดล้อม Node.js ของคุณ SDK รองรับทั้งรูปแบบ synchronous และ asynchronous สำหรับกรณีใช้งานที่แตกต่างกัน กำหนดค่า ID ของ model เป็น "uncensored" เพื่อผลลัพธ์ที่สอดคล้องกัน

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ผู้ใช้ Node ได้รับประโยชน์จากโครงสร้างราคาตามโทเค็นและอัตรากำหนดอัตราเดียวกับผู้ใช้ Python ตรวจสอบแดชบอร์ดการใช้งานของคุณเพื่อติดตามการบริโภคเครดิตที่เติมเงินล่วงหน้าได้อย่างแม่นยำ

การตอบกลับแบบสตรีมและขีดจำกัด

เปิดใช้งานการสตรีมเพื่อรับโทเค็นแบบต่อเนื่อง ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกเมื่อผลลัพธ์ยาว API ของเรารองรับ Server-Sent Events สำหรับการสร้างข้อความแบบเรียลไทม์ ซึ่งเหมาะสำหรับอินเทอร์เฟซแชท ควรระวังข้อจำกัดด้านอัตรา (429) และข้อจำกัดของโทเค็นเมื่อใช้งานปริมาณสูง

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

แต่ละคำขอเคารพหน้าต่างบริบทขนาด 100,000 tokens และขีดจำกัดเอาต์พุต 16,000 tokens ข้อผิดพลาดเช่น 401 บ่งชี้ถึงข้อมูลรับรองที่ไม่ถูกต้อง ในขณะที่ 402 บ่งชี้ถึงยอดเงินคงเหลือแบบเติมเงินไม่เพียงพอ ให้รักษาขนาดคำขอไว้ต่ำกว่า 8 MB เพื่อหลีกเลี่ยงการปฏิเสธ payload