OpenAI API 가격: 흔히 저지르는 실수와 피하는 방법

토큰 비용: 입력 vs 출력

OpenAI API 가격은 입력 및 출력 토큰을 별도로 청구합니다. 즉, 총 비용은 전송량과 모델이 생성하는 양 모두에 따라 달라집니다. 입력 토큰에는 프롬프트와 대화 기록이 포함됩니다. 출력 토큰에는 모델의 응답 텍스트가 포함됩니다.

당사의 무제한 모델은 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50의 요금을 부과합니다. 높은 출력 비용은 텍스트 생성에 필요한 컴퓨팅 리소스를 반영합니다. 짧은 응답은 비용이 더 적게 들지만 선불 크레딧을 소모합니다.

• 입력 토큰에는 프롬프트와 대화 기록이 포함됩니다.
• 출력 토큰은 모델의 전체 응답을 포함합니다
• 두 토큰 유형 모두 선불 잔액에 포함됩니다.
• 에러 및 거절은 토큰을 0개 소모합니다.

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

컨텍스트 윈도우 제한 및 예상치 못한 요금

컨텍스트 윈도우 제한은 토큰 비용에 직접적인 영향을 미칩니다. 긴 대화는 더 많은 입력 토큰을 소모합니다. 당사 비검열 모델은 프롬프트와 완성을 합쳐 100,000토큰 컨텍스트 윈도우를 지원합니다. 요청당 최대 16,000토큰을 생성할 수 있습니다. max_tokens을 생략하면 제한이 2,048토큰으로 떨어집니다.

더 긴 컨텍스트는 더 높은 입력 토큰 비용을 의미하지만 더 복잡한 추론도 가능하게 합니다. 대화 기록을 정리하면 입력 비용은 줄지만 응답 품질이 저하될 수 있습니다. 사용 사례에 맞는 균형을 찾으세요.

• 입력 및 출력 합산 총 100,000 컨텍스트 윈도우
• 요청당 최대 16,000 출력 토큰
• max_tokens를 생략할 경우 출력 토큰 기본값 2,048
• 컨텍스트 창은 비용과 응답 품질 모두에 영향을 미칩니다

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

스트리밍 vs 비스트리밍 토큰 계산

스트리밍 응답은 비스트리밍 요청과 동일한 방식으로 토큰을 계산합니다. 클라이언트에 전송된 모든 토큰은 전송 방식에 관계없이 선불 잔액에 포함됩니다. 스트리밍은 단순히 토큰을 한 번에 아닌 점진적으로 전달할 뿐입니다.

실시간 피드백이 필요하지만 토큰 사용량을 신중하게 추적해야 할 때 스트리밍을 사용하세요. 마지막 청크에는 입력 및 출력의 총 토큰 수가 포함됩니다. 예산 내에서 유지하려면 이러한 수치를 모니터링하세요.

• 스트리밍 및 비스트리밍은 동일한 토큰 카운팅을 사용합니다
• 클라이언트에 전송된 모든 토큰은 크레딧을 소모합니다.
• 최종 청크에는 총 입력 및 출력 토큰 수가 포함됩니다.
• 스트리밍 구현에서 토큰 사용량을 추적하세요

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

자주 발생하는 SDK 구성 오류

SDK 오구성은 불필요한 토큰 전송이나 중복 요청으로 인해 예상치 못한 과금을 유발합니다. 개발자는 종종 max_tokens을 설정하지 않아 예상보다 긴 응답이 생성됩니다. 다른 사람들은 응답 완료 후에도 토큰을 계속 전송하는 스트리밍 구현을 놓치곤 합니다.

명시적 매개변수로 SDK를 구성하세요. 출력 길이를 제어하기 위해 max_tokens을 설정하세요. 실시간 피드백이 필요할 때만 스트리밍을 활성화하세요. 애플리케이션 로그에서 토큰 사용량을 모니터링하세요.

• 출력 길이를 제어하기 위해 명시적인 max_tokens을 설정합니다.
• 실시간 피드백이 필요할 때만 스트리밍을 활성화하세요.
• 애플리케이션 로그에서 토큰 수를 모니터링하세요
• 요청이 중단되지 않도록 시간 제한 값을 구성하세요

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

왜 선불 크레딧이 비용을 절감하는가

선불 크레딧은 구독 낭비를 제거하고 실제 토큰 사용량에 대해서만 청구합니다. 당사 시스템은 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50을 청구합니다. 오류 및 거물은 0개의 토큰을 소모하므로 실패한 요청에 대해 지불할 필요가 없습니다.

TRC20의 USDT 또는 Base의 USDC로 $20에서 $500까지 암호화폐로 충전하세요. $50 이상 충전 시 보너스 크레딧을 받으세요. 크레딧은 만료되지 않으므로 필요할 때 언제든 사용할 수 있습니다. 월 구독료가 없으므로 실제로 소비한 것만큼만 지불합니다.

• 선불 크레딧은 실제 토큰 사용량에 대해서만 청구합니다
• 에러 및 거절은 토큰을 0개 소모합니다.
• $20~$500 암호화폐로 충전
• 크레딧은 만료되지 않으며 보너스 크레딧이 적용됨

속도 제한 패널티 피하기

レート制限は乱用を防ぎますが、正しく設定されていない場合アプリケーションが中断されることがあります。当社のAPIでは、キーごとに1分あたり300リクエスト、キーごとに8つの同時リクエストが許可されています。リクエストボディは8 MB以下に保つ必要があります。

レート 제한에 도달했을 때 지수 백오프와 함께 재시도 로직을 구현하세요. 분당 요청 수를 모니터링하여 제한 내에 머무르세요. 부하를 분산하기 위해 서로 다른 애플리케이션 구성 요소에 별도의 키를 사용하세요. 계정당 활성 키가 하나라면 키 회전 관리에 신중해야 합니다.

• API 키별 분당 300회 요청
• 8 concurrent requests allowed per key
• 요청 본문은 8MB 미만이어야 합니다
• 대체 기능이 있는 계정당 하나의 활성 키

무검열 모델 비용 비교

Uncensored 모델은 특수화된 훈련 및 추론 요구 사항으로 인해 일반 모델보다 비용이 더 많이 들 수 있습니다. 저희 모델은 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50을 청구합니다. 이 가격은 Uncensored 생성에 필요한 컴퓨팅 자원을 반영합니다.

표준 모델은 비용이 더 저렴할 수 있지만 응답 품질에 영향을 미치는 콘텐츠 제한이 포함됩니다. Uncensored 모델은 합법적인 성인 콘텐츠, 픽션, 연구에 대한 제한 없는 응답을 제공합니다. 가격 alone가 아닌 콘텐츠 필요에 따라 선택하십시오.

• Uncensored 모델은 전문적인 훈련과 추론이 필요합니다.
• 저희의 가격 정책은 uncensored 생성 컴퓨트 비용을 반영합니다.
• 콘텐츠 제한은 응답 품질과 비용에 영향을 미칩니다
• 가격뿐만 아니라 콘텐츠 요구 사항에 따라 선택하세요

사용량 및 청구 알림 추적

토큰 사용량 추적은 비용 모니터링 및 예산 초과 방지에 도움이 됩니다. 당사 API는 스트리밍 응답을 포함한 모든 응답에 토큰 수를 반환합니다. 애플리케이션 로그 및 대시보드에서 이러한 계수를 추적하세요.

사용량이 특정 임계값에 도달할 때 알림을 설정하세요. 프롬프트 최적화를 위해 입력 대비 출력 토큰 비율을 모니터링하세요. 토큰 수를 사용하여 실제 비용을 계산하고 선불 잔액과 비교하세요.

• 토큰 수는 스트리밍 포함 모든 응답에 나타납니다
• 입력 대 출력 토큰 비율을 모니터링하세요.
• 예산 초과를 방지하기 위해 사용량 알림을 설정하세요
• 토큰 수를 사용하여 실제 비용 계산