빠른 시작: OpenAI SDK 연결

필수 조건: SDK 및 환경

선호하는 언어의 공식 클라이언트 라이브러리를 설치하세요. 최신 Python 또는 Node.js 런타임과 대시보드에서 발급한 유효한 API 키가 필요합니다. 클라이언트 인스턴스를 초기화하기 전에 환경 변수를 안전하게 설정해야 합니다.

구성: base_url 및 API 키

기본 OpenAI 호스트 대신 우리 특정 엔드포인트로 SDK를 설정하세요. 대시보드에서 제공된 기본 URL을 사용하고 생성된 키를 표준 인증 헤더에 할당하세요. 이렇게 하면 모든 요청이 사용자 정의 헤더 없이 우리 제한 없는 모델 인프라로 올바르게 라우팅됩니다.

첫 채팅 완료 보내기

연결을 확인하기 위해 chat completions 엔드포인트로 간단한 POST 요청을 보내세요. 우리의 uncensored 모델은 표준 프롬프트에 즉시 응답하여 즉각적인 거부 없이 콘텐츠 생성을 테스트할 수 있게 합니다. 키가 제대로 작동하는지 확인하려면 다음 예시를 사용하세요:

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

응답은 모델이 허용된 컨텍스트 창 내에서 입력을 처리했음을 확인합니다. 이제 이 로직을 애플리케이션 워크플로우에 통합할 수 있습니다.

Python SDK 구현

공식 Python 라이브러리를 사용하여 요청 직렬화를 자동으로 처리하세요. base URL을 우리 도메인으로 설정하고 API 키를 주요 인증 매개변수로 전달하세요. 이 방법은 로컬 테스트와 프로덕션 배포 모두에서 동일하게 작동합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

네트워크 오류나 유효하지 않은 키가 표준 HTTP 예외를 발생시킬 수 있으므로 예외를 적절히 처리하세요. 라이브러리는 선불 잔액에 대해 토큰 카운팅을 효율적으로 관리합니다.

Node SDK 구현

Node.js 환경에서 올바른 기본 URL과 API 키로 클라이언트를 초기화하세요. SDK는 다양한 사용 사례를 위해 동기 및 비동기 패턴을 모두 지원합니다. 일관된 결과를 위해 모델 ID를 "uncensored"로 구성하세요.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Node 사용자는 Python 사용자와 동일한 토큰 가격 구조 및 속도 제한의 혜택을 누립니다. 사용량 대시보드를 모니터링하여 선불 크레딧 소비를 정확하게 추적하세요.

스트리밍 응답 및 제한 사항

스트리밍을 활성화하여 토큰을 점진적으로 수신하면 긴 출력의 지각된 지연 시간을 줄일 수 있습니다. 당사 API는 채팅 인터페이스에 이상적인 실시간 텍스트 생성을 위한 서버 전송 이벤트(Server-Sent Events)를 지원합니다. 고부하 사용 시 속도 제한(429) 및 토큰 제약 사항을 확인하세요.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

각 요청은 100,000개 토큰의 컨텍스트 창과 16,000개 토큰의 출력 제한을 준수합니다. 401 오류는 유효하지 않은 자격 증명을, 402 오류는 부족선불 크레딧을 나타냅니다. 페이로드 거절을 피하려면 요청을 8 MB 미만으로 유지하세요.