繁中 ▾
使用試用信用額度嘗試
每 1M 輸入權杖
$0.15
輸出 token / 1M
$0.50
權杖上下文
100,000
試用額度
$0.50
每分鐘請求數
300

快速入門:連接您的 OpenAI SDK

幾秒鐘內即可將您的 OpenAI SDK 連接至我們的無審查 LLM 端點。本指南涵蓋了開始生成文本所需的精確設定步驟,且無需訂閱即可使用。

前置條件:SDK 與環境

安裝您首選語言的官方客戶端庫。您需要現代的 Python 或 Node.js 運行時環境,以及從儀表板獲取的有效的 API 金鑰。在初始化客戶端實例之前,應安全地設定環境變數。

設定:base_url 和 API 金鑰

將您的 SDK 指向我們特定的端點,而非預設的 OpenAI 主機。使用您儀表板中提供的基礎 URL,並將您的生成金鑰指派給標準的授權標頭。這確保所有請求正確路由至我們的無審查模型基礎設施,無需自訂標頭。

發送您的第一個聊天完成請求

向聊天完成端點發送簡單的 POST 請求以驗證連線。我們的 uncensored 模型會立即回應標準提示,讓您可以測試內容生成而不會立即遭到拒絕。使用以下範例來確認您的金鑰是否有效:

curl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

回應確認模型已在允許的上下文視窗內處理您的輸入。您現在可以將此邏輯整合至應用程式工作流程中。

Python SDK 實作

使用官方 Python 函式庫自動處理請求序列化。將 base URL 設定為我們的網域,並將您的 API 金鑰作為主要身份驗證參數傳遞。此方法在本地測試和生產部署中均同樣適用。

from openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

請確保妥善處理例外狀況,因為網路錯誤或無效的金鑰將引發標準的 HTTP 例外。該函式庫會有效率地為您計算 token 計數,以用於您的預付餘額。

Node SDK 實現

在您的 Node.js 環境中使用正確的基礎 URL 和 API 金鑰初始化客戶端。SDK 支援同步和非同步模式以適應不同的使用案例。將模型 ID 設定為 "uncensored" 以獲得一致的結果。

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Node 用戶享有與 Python 用戶相同的 Token 定價結構和速率限制。監控您的使用儀表板,以準確追蹤預付信用額度的消耗情況。

串流回應與限制

啟用串流以逐步接收權杖,降低長輸出時的感知延遲。我們的 API 支援伺服器發送事件(SSE)進行即時文字生成,非常適合聊天介面。請留意高流量使用時的速率限制(429)和權杖限制。

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

每個請求遵循 100,000 token 的上下文視窗和 16,000 token 的輸出限制。401 錯誤表示憑證無效,402 錯誤表示預付信用額度不足。保持請求在 8 MB 以下以避免載荷被拒絕。

常見問題

mistral openai 相容 API 端點 URL 是什麼?

基礎網址為 HTTPS://api.mistralopenaicompatibleapi.com/v1。將您的 SDK 指向此地址,而非預設的 OpenAI 主機,即可使用我們的無審查模型。

預付信用額系統是如何運作的?

您只需為使用的 token 付費,無月度費用。額度透過加密貨幣充值且永不過期。錯誤和拒絕不會消耗您的預付餘額。

我可以將標準 OpenAI SDK 與您的 API 搭配使用嗎?

是的,我們的端點完全相容於官方 OpenAI SDK。您只需在設定中更新 base URL 和 API 金鑰即可。

取得您的 API 金鑰

註冊、取得金鑰、更新您的端點基礎 URL。就這麼簡單。