Bắt đầu nhanh: Kết nối SDK OpenAI của bạn

Điều kiện tiên quyết: SDK và môi trường

Cài đặt thư viện máy khách chính thức cho ngôn ngữ ưa thích của bạn. Bạn sẽ cần một môi trường chạy Python hoặc Node.js hiện đại và một khóa API hợp lệ từ bảng điều khiển của bạn. Các biến môi trường nên được đặt bảo mật trước khi khởi tạo phiên bản máy khách.

Cấu hình: base_url và Khóa API

Điểm SDK của bạn đến điểm cuối cụ thể của chúng tôi thay vì máy chủ OpenAI mặc định. Sử dụng URL cơ sở được cung cấp trong bảng điều khiển của bạn và gán khóa đã tạo của bạn cho tiêu đề xác thực tiêu chuẩn. Điều này đảm bảo tất cả các yêu cầu được định tuyến đúng cách đến cơ sở hạ tầng mô hình không kiểm duyệt của chúng tôi mà không cần tiêu đề tùy chỉnh.

Gửi yêu cầu hoàn thành trò chuyện đầu tiên của bạn

Thực hiện yêu cầu POST đơn giản đến điểm cuối hoàn thành trò chuyện để xác minh kết nối. Mô hình không hạn chế của chúng tôi phản hồi ngay lập tức với các lời nhắc tiêu chuẩn, cho phép bạn kiểm tra việc tạo nội dung mà không có từ chối ngay lập tức. Sử dụng ví dụ sau để xác minh khóa API của bạn hoạt động:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Phản hồi xác nhận mô hình đã xử lý đầu vào của bạn trong cửa sổ ngữ cảnh cho phép. Bạn có thể tích hợp logic này vào các quy trình làm việc của ứng dụng.

Triển khai Python SDK

Sử dụng thư viện Python chính thức để tự động xử lý serialization yêu cầu. Đặt base URL đến tên miền của chúng tôi và truyền API key của bạn làm tham số xác thực chính. Cách tiếp cận này hoạt động giống hệt nhau cho cả kiểm tra cục bộ và triển khai sản xuất.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Đảm bảo bạn xử lý ngoại lệ đúng cách, vì lỗi mạng hoặc khóa không hợp lệ sẽ gây ra các ngoại lệ HTTP tiêu chuẩn. Thư viện quản lý việc đếm token một cách hiệu quả cho số dư trả trước của bạn.

Triển khai SDK Node

Khởi tạo client với URL cơ sở và khóa API chính xác trong môi trường Node.js của bạn. SDK hỗ trợ cả các mẫu đồng bộ và bất đồng bộ cho các trường hợp sử dụng khác nhau. Cấu hình ID mô hình thành "uncensored" để có kết quả nhất quán.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Người dùng Node hưởng lợi từ cấu trúc giá token và giới hạn tốc độ giống như người dùng Python. Theo dõi bảng điều khiển sử dụng của bạn để theo dõi chính xác việc tiêu thụ tín dụng trả trước.

Phản hồi dạng stream và giới hạn

Bật chế độ streaming để nhận token từng phần, giúp giảm độ trễ cảm nhận khi xử lý các phản hồi dài. API của chúng tôi hỗ trợ Server-Sent Events (SSE) để tạo văn bản theo thời gian thực, rất phù hợp cho các giao diện trò chuyện. Hãy lưu ý các giới hạn tốc độ (429) và hạn chế về token khi sử dụng ở quy mô lớn.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Mỗi yêu cầu tuân thủ cửa sổ ngữ cảnh 100.000 token và giới hạn đầu ra 16.000 token. Lỗi như 401 cho biết thông tin đăng nhập không hợp lệ, trong khi 402 báo hiệu tín dụng trả trước không đủ. Giữ các yêu cầu dưới 8 MB để tránh từ chối tải trọng.