Быстрый старт: Подключение вашего SDK OpenAI

Предварительные требования: SDK и окружение

Установите официальную клиентскую библиотеку для предпочитаемого языка. Вам понадобится современная среда Python или Node.js и действительный API-ключ из вашего дашборда. Переменные окружения должны быть установлены безопасно перед инициализацией экземпляра клиента.

Конфигурация: base_url и API-ключ

Укажите конкретную конечную точку нашего API вместо стандартного хоста OpenAI. Используйте базовый URL, указанный в вашей панели управления, и назначьте сгенерированный ключ стандартному заголовку авторизации. Это гарантирует правильную маршрутизацию всех запросов к нашей инфраструктуре модели без ограничений без необходимости использования пользовательских заголовков.

Отправка вашего первого завершения чата

Отправить простой POST-запрос на конечную точку chat completions для проверки подключения. Наша uncensored модель мгновенно реагирует на стандартные промпты, позволяя вам тестировать генерацию контента без немедленных отказов. Используйте следующий пример, чтобы подтвердить работоспособность вашего ключа:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Ответ подтверждает, что модель обработала ваш ввод в рамках разрешенного контекстного окна. Теперь вы можете интегрировать эту логику в рабочие процессы вашего приложения.

Реализация Python SDK

Используйте официальную библиотеку Python для автоматической сериализации запросов. Установите базовый URL на наш домен и передайте ваш API-ключ в качестве основного параметра аутентификации. Этот подход одинаково работает как для локального тестирования, так и для продакшн-развёртывания.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Убедитесь, что вы правильно обрабатываете исключения, так как ошибки сети или недействительные ключи будут вызывать стандартные HTTP-исключения. Библиотека эффективно управляет подсчётом токенов для вашего предоплаченного баланса.

Реализация Node SDK

Инициализируйте клиент, указав правильный базовый URL и API-ключ в среде Node.js. SDK поддерживает как синхронные, так и асинхронные паттерны для различных сценариев использования. Настройте идентификатор модели на "uncensored" для получения согласованных результатов.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Пользователи Node получают ту же структуру ценообразования за токены и ограничения скорости, что и пользователи Python. Следите за панелью использования, чтобы точно отслеживать расход предоплаченного кредита.

Потоковая передача ответов и лимиты

Включите потоковую передачу для получения токенов по мере их генерации, что снижает воспринимаемую задержку при длинных ответах. Наш API поддерживает Server-Sent Events для генерации текста в реальном времени, что идеально подходит для чат-интерфейсов. Следите за ограничениями частоты запросов (429) и ограничениями по токенам при высокой нагрузке.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Каждый запрос учитывает контекстное окно в 100,000 токенов и лимит вывода в 16,000 токенов. Ошибки 401 указывают на недействительные учетные данные, а 402 сигнализируют о недостатке предоплаченного кредита. Держите запросы в пределах 8 МБ, чтобы избежать отклонения полезной нагрузки.