快速入門:連接您的 OpenAI SDK
幾秒鐘內即可將您的 OpenAI SDK 連接至我們的無審查 LLM 端點。本指南涵蓋了開始生成文本所需的精確設定步驟,且無需訂閱即可使用。
前置條件:SDK 與環境
安裝您首選語言的官方客戶端庫。您需要現代的 Python 或 Node.js 運行時環境,以及從儀表板獲取的有效的 API 金鑰。在初始化客戶端實例之前,應安全地設定環境變數。
設定:base_url 和 API 金鑰
將您的 SDK 指向我們特定的端點,而非預設的 OpenAI 主機。使用您儀表板中提供的基礎 URL,並將您的生成金鑰指派給標準的授權標頭。這確保所有請求正確路由至我們的無審查模型基礎設施,無需自訂標頭。
發送您的第一個聊天完成請求
向聊天完成端點發送簡單的 POST 請求以驗證連線。我們的 uncensored 模型會立即回應標準提示,讓您可以測試內容生成而不會立即遭到拒絕。使用以下範例來確認您的金鑰是否有效:
curl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
}'
回應確認模型已在允許的上下文視窗內處理您的輸入。您現在可以將此邏輯整合至應用程式工作流程中。
Python SDK 實作
使用官方 Python 函式庫自動處理請求序列化。將 base URL 設定為我們的網域,並將您的 API 金鑰作為主要身份驗證參數傳遞。此方法在本地測試和生產部署中均同樣適用。
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
請確保妥善處理例外狀況,因為網路錯誤或無效的金鑰將引發標準的 HTTP 例外。該函式庫會有效率地為您計算 token 計數,以用於您的預付餘額。
Node SDK 實現
在您的 Node.js 環境中使用正確的基礎 URL 和 API 金鑰初始化客戶端。SDK 支援同步和非同步模式以適應不同的使用案例。將模型 ID 設定為 "uncensored" 以獲得一致的結果。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Node 用戶享有與 Python 用戶相同的 Token 定價結構和速率限制。監控您的使用儀表板,以準確追蹤預付信用額度的消耗情況。
串流回應與限制
啟用串流以逐步接收權杖,降低長輸出時的感知延遲。我們的 API 支援伺服器發送事件(SSE)進行即時文字生成,非常適合聊天介面。請留意高流量使用時的速率限制(429)和權杖限制。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
每個請求遵循 100,000 token 的上下文視窗和 16,000 token 的輸出限制。401 錯誤表示憑證無效,402 錯誤表示預付信用額度不足。保持請求在 8 MB 以下以避免載荷被拒絕。
常見問題
mistral openai 相容 API 端點 URL 是什麼?
基礎網址為 HTTPS://api.mistralopenaicompatibleapi.com/v1。將您的 SDK 指向此地址,而非預設的 OpenAI 主機,即可使用我們的無審查模型。
預付信用額系統是如何運作的?
您只需為使用的 token 付費,無月度費用。額度透過加密貨幣充值且永不過期。錯誤和拒絕不會消耗您的預付餘額。
我可以將標準 OpenAI SDK 與您的 API 搭配使用嗎?
是的,我們的端點完全相容於官方 OpenAI SDK。您只需在設定中更新 base URL 和 API 金鑰即可。
取得您的 API 金鑰
註冊、取得金鑰、更新您的端點基礎 URL。就這麼簡單。