Preços da API OpenAI: Erros Comuns e Como Evitá-los

Entendendo custos de tokens: entrada vs. saída

A precificação da API OpenAI cobra separadamente por tokens de entrada e saída. Isso significa que seu custo total depende de quanto você envia e de quanto o modelo gera. Tokens de entrada cobrem seu prompt mais qualquer histórico de conversa. Tokens de saída cobrem o texto de resposta do modelo.

Nosso modelo sem censura cobra $0,15 por milhão de tokens de entrada e $0,50 por milhão de tokens de saída. O custo mais alto de saída reflete o poder de computação necessário para gerar texto. Respostas mais curtas custam menos, mas ainda consomem seus créditos pré-pagos.

• Tokens de entrada incluem seu prompt e o histórico da conversa
• Os tokens de cobertura cobrem a resposta completa do modelo
• Ambos os tipos de token contam para o seu saldo pré-pago
• Erros e recusas consomem zero tokens

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Limites da janela de contexto e cobranças inesperadas

Os limites da janela de contexto afetam diretamente seus custos de tokens porque conversas mais longas consomem mais tokens de entrada. Nosso modelo uncensored suporta uma janela de contexto de 100.000 tokens para prompt mais combinação juntos. Você pode gerar até 16.000 tokens por solicitação. Se você omitir max_tokens, o limite cai para 2.048 tokens.

Janelas de contexto maiores significam custos mais altos de tokens de entrada, mas também permitem raciocínio mais complexo. Reduzir o histórico de conversas diminui os custos de entrada, mas pode degradar a qualidade da resposta. Encontre o equilíbrio que funciona para o seu caso de uso.

• Janela de contexto total de 100.000 tokens para entrada mais saída
• 16.000 tokens de saída máximos por solicitação
• 2.048 tokens de saída padrão se max_tokens for omitido
• A janela de contexto afeta tanto os custos quanto a qualidade da resposta

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cálculo de tokens: Streaming vs. Não Streaming

As respostas em streaming calculam os tokens da mesma forma que as solicitações não em streaming. Cada token enviado ao cliente conta para o seu saldo pré-pago, independentemente do método de entrega. O streaming apenas entrega os tokens de forma incremental, em vez de todos de uma vez.

Use streaming quando precisar de feedback em tempo real, mas monitore o uso de tokens com cuidado. O último chunk contém as contagens totais de tokens para entrada e saída. Monitore essas contagens para permanecer dentro do seu orçamento.

• Streaming e sem streaming usam contagem de tokens idêntica
• Cada token enviado ao cliente consome créditos
• O último bloco inclui as contagens totais de tokens de entrada e saída
• Acompanhe o uso de tokens na sua implementação de streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Erros comuns de configuração do SDK

Maus configurações em SDKs causam cobranças inesperadas ao enviar muitos tokens ou fazer solicitações redundantes. Desenvolvedores frequentemente esquecem de definir o max_tokens, resultando em respostas inesperadamente longas. Outros negligenciam implementações de streaming que continuam enviando tokens após o término da resposta.

Configure seu SDK com parâmetros explícitos. Defina max_tokens para controlar o comprimento da saída. Habilite o streaming apenas quando precisar de feedback em tempo real. Monitore o uso de tokens nos logs da sua aplicação.

• Defina max_tokens explícitos para controlar o comprimento da saída
• Ative o streaming apenas quando o feedback em tempo real for necessário
• Monitore as contagens de tokens nos logs do seu aplicativo
• Configure valores de tempo limite para evitar solicitações pendentes

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Por que créditos pré-pagos economizam seu dinheiro

Créditos pré-pagos eliminam o desperdício de assinatura cobrando apenas pelo uso real de tokens. Nosso sistema cobra $0.15 por milhão de tokens de entrada e $0.50 por milhão de tokens de saída. Erros e recusas consomem zero tokens, então você nunca paga por solicitações falhas.

Pague de $20 a $500 em cripto para USDT na TRC20 ou USDC na Base. Receba crédito bônus ao recarregar $50 ou mais. Os créditos nunca expiram, então você pode usá-los quando precisar. Sem mensalidades significa que você paga apenas pelo que realmente consome.

• Créditos pré-pagos cobram apenas pelo uso real de tokens
• Erros e recusas consomem zero tokens
• Top Up de $20 a $500 em cripto
• Os créditos nunca expiram e o crédito bônus se aplica

Evitando penalidades de limite de taxa

Os limites de taxa impedem abusos, mas podem interromper seu aplicativo se configurados incorretamente. Nossa API permite 300 solicitações por minuto por chave e 8 solicitações concorrentes por chave. Os corpos das solicitações devem permanecer abaixo de 8 MB para evitar rejeição.

Implemente a lógica de retry com backoff exponencial ao atingir limites de taxa. Monitore sua contagem de requisições por minuto para permanecer dentro dos limites. Use chaves separadas para diferentes componentes da aplicação para distribuir a carga. Uma chave ativa por conta significa que você deve gerenciar a rotação de chaves com cuidado.

• 300 solicitações por minuto por chave de API
• 8 concurrent requests allowed per key
• Os corpos das solicitações devem estar abaixo de 8 MB
• Uma chave ativa por conta com capacidade de substituição

Comparando custos de modelos sem censura

Modelos sem censura costumam custar mais que os modelos padrão devido aos requisitos especializados de treinamento e inferência. Nosso modelo cobra $0.15 por milhão de tokens de entrada e $0.50 por milhão de tokens de saída. Esse preço reflete os recursos de computação necessários para a geração sem censura.

Modelos padrão podem custar menos, mas incluem restrições de conteúdo que afetam a qualidade da resposta. Modelos sem censura fornecem respostas ilimitadas para conteúdo adulto legal, ficção e pesquisa. Escolha com base nas suas necessidades de conteúdo, não apenas no preço.

• Modelos sem censura exigem treinamento e inferência especializados.
• Nosso preço reflete os custos de computação de geração sem censura
• As restrições de conteúdo afetam a qualidade da resposta e o custo
• Escolha com base nas necessidades de conteúdo, não apenas no preço

Rastreamento de uso e alertas de cobrança

O rastreamento de uso de tokens ajuda você a monitorar os custos e evitar excedentes de orçamento. Nossa API retorna contagens de tokens em todas as respostas, incluindo respostas em streaming. Rastreie essas contagens nos logs e painéis do seu aplicativo.

Configure alertas quando o uso atingir certos limites. Monitore as proporções entre tokens de entrada e saída para otimizar seus prompts. Use as contagens de tokens para calcular os custos reais e comparar com seu saldo pré-pago.

• As contagens de tokens aparecem em todas as respostas, incluindo streaming
• Monitore as proporções de tokens de entrada versus saída
• Configure alertas de uso para evitar exceder o orçamento
• Calcule os custos reais usando contagens de tokens