Швидкий старт: Підключіть ваш SDK OpenAI

Передумови: SDK та середовище

Встановіть офіційну бібліотеку клієнта для бажаної мови. Вам знадобиться сучасне середовище Python або Node.js та дійсний API-ключ з вашої панелі керування. Змінні середовища мають бути встановлені безпечно перед ініціалізацією екземпляра клієнта.

Конфігурація: base_url та API-ключ

Направте свій SDK на нашу конкретну кінцеву точку замість стандартного хоста OpenAI. Використовуйте базову URL-адресу, надану в вашому особистому кабінеті, та призначте згенерований ключ стандартному заголовку авторизації. Це забезпечує правильну маршрутизацію всіх запитів до нашої інфраструктури моделі без цензури без необхідності використовувати спеціальні заголовки.

Надсилання вашого першого запиту на завершення чату

Зробіть простий POST-запит на кінцеву точку завершення чату для перевірки з’єднання. Наша модель uncensored миттєво реагує на стандартні промпти, дозволяючи вам тестувати генерацію контенту без миттєвих відмов. Використовуйте наведений нижче приклад, щоб підтвердити, що ваш ключ працює:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Відповідь підтверджує, що модель обробила ваш вхід у межах допустимого контекстного вікна. Тепер ви можете інтегрувати цю логіку в робочі процеси вашої програми.

Реалізація Python SDK

Використовуйте офіційну бібліотеку Python для автоматичної серіалізації запитів. Встановіть базовий URL на наш домен та передайте ваш API-ключ як основний параметр автентифікації. Цей підхід працює ідентично як для локального тестування, так і для продакшн-розгортань.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Переконайтеся, що ви правильно обробляєте винятки, оскільки помилки мережі або недійсні ключі викликатимуть стандартні HTTP-винятки. Бібліотека ефективно рахує токени для вашого передоплаченого балансу.

Реалізація Node SDK

Ініціалізуйте клієнт, використовуючи правильний базовий URL та API-ключ у вашому середовищі Node.js. SDK підтримує як синхронні, так і асинхронні патерни для різних сценаріїв використання. Встановіть ідентифікатор моделі на "uncensored" для отримання узгоджених результатів.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Користувачі Node користуються тією ж структурою ціноутворення за токенами та лімітами швидкості, що й користувачі Python. Слідкуйте за панеллю використання, щоб точно відстежувати споживання передоплачених кредитів.

Потокова передача відповідей та ліміти

Увімкніть потокову передачу, щоб отримувати токени поступово, що зменшує сприйняту затримку для довгих відповідей. Наш API підтримує Server-Sent Events для генерації тексту в реальному часі, що ідеально підходить для чат-інтерфейсів. Звертайте увагу на ліміти швидкості (429) та обмеження токенів під час інтенсивного використання.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Кожен запит поважає контекстне вікно 100,000 токенів та ліміт виводу 16,000 токенів. Помилки типу 401 вказують на недійсні облікові дані, тоді як 402 сигналізує про недостатній передоплачений кредит. Тримайте запити менше 8 МБ, щоб уникнути відхилення корисного навантаження.