Precios de la API de OpenAI: Errores comunes y cómo evitarlos

Comprender los costos de tokens: entrada vs. salida

La API de OpenAI cobra por separado los tokens de entrada y salida. Esto significa que tu costo total depende de cuánto envíes y de cuánto genere el modelo. Los tokens de entrada cubren tu prompt más cualquier historial de conversación. Los tokens de salida cubren el texto de respuesta del modelo.

Nuestro modelo sin censura cobra $0.15 por millón de tokens de entrada y $0.50 por millón de tokens de salida. El mayor costo de salida refleja el cómputo necesario para generar texto. Las respuestas más cortas cuestan menos pero aún consumen tus créditos prepagados.

• Los tokens de entrada incluyen tu prompt y el historial de la conversación
• Los tokens de salida cubren la respuesta completa del modelo
• Ambos tipos de tokens cuentan para tu saldo prepagado
• Los errores y rechazos consumen cero tokens

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

Límites de la ventana de contexto y cargos inesperados

Los límites de la ventana de contexto afectan directamente tus costes de tokens porque las conversaciones más largas consumen más tokens de entrada. Nuestro modelo uncensored admite una ventana de contexto de 100.000 tokens para prompt más completación juntos. Puedes generar hasta 16.000 tokens por solicitud. Si omites max_tokens, el límite baja a 2.048 tokens.

Las ventanas de contexto más largas significan mayores costos de tokens de entrada pero también permiten un razonamiento más complejo. Recortar el historial de conversaciones reduce los costos de entrada pero puede degradar la calidad de la respuesta. Encuentra el equilibrio que funcione para tu caso de uso.

• Ventana de contexto total de 100.000 tokens para entrada más salida
• 16,000 tokens de salida máximos por solicitud
• 2.048 tokens de salida predeterminados si se omite max_tokens
• La ventana de contexto afecta tanto a los costes como a la calidad de la respuesta

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cálculo de tokens de streaming vs. no streaming

Las respuestas en streaming calculan los tokens de la misma manera que las solicitudes no en streaming. Cada token enviado al cliente cuenta para tu saldo prepagado, independientemente del método de entrega. El streaming simplemente entrega los tokens de forma incremental en lugar de todos a la vez.

Utiliza streaming cuando necesites retroalimentación en tiempo real pero rastree el uso de tokens con cuidado. El último fragmento contiene los recuentos totales de tokens tanto para la entrada como para la salida. Monitoriza estos recuentos para mantenerse dentro de tu presupuesto.

• El streaming y sin streaming utilizan un recuento de tokens idéntico
• Cada token enviado al cliente consume créditos
• El fragmento final incluye los recuentos totales de tokens de entrada y salida
• Rastrea el uso de tokens en tu implementación de streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Errores comunes de configuración del SDK

Las configuraciones incorrectas de SDK provocan cargos inesperados al enviar demasiados tokens o hacer solicitudes redundantes. Los desarrolladores a menudo olvidan establecer max_tokens, lo que resulta en respuestas inesperadamente largas. Otros pasan por alto las implementaciones de streaming que continúan enviando tokens después de que la respuesta esté completa.

Configura tu SDK con parámetros explícitos. Establece max_tokens para controlar la longitud de la salida. Habilita el streaming solo cuando necesites retroalimentación en tiempo real. Monitoriza el uso de tokens en los registros de tu aplicación.

• Establece límites max_tokens explícitos para controlar la longitud de la salida
• Habilita el streaming solo cuando se necesite retroalimentación en tiempo real
• Monitora los recuentos de tokens en los registros de tu aplicación
• Configura los valores de tiempo de espera para evitar solicitudes colgadas

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Por qué los créditos prepagados te ahorran dinero

Los créditos prepagados eliminan el desperdicio de suscripción cobrando solo por el uso real de tokens. Nuestro sistema cobra $0.15 por millón de tokens de entrada y $0.50 por millón de tokens de salida. Los errores y denegaciones consumen cero tokens, por lo que nunca pagas por solicitudes fallidas.

Paga de $20 a $500 en cripto para USDT en TRC20 o USDC en Base. Recibe crédito bonus al recargar $50 o más. Los créditos nunca expiran para que puedas usarlos cuando necesites. No hay cuotas mensuales, así que solo pagas por lo que realmente consumes.

• Los créditos prepagados cobran solo por el uso real de tokens
• Los errores y rechazos consumen cero tokens
• Recarga de $20 a $500 en cripto
• Los créditos nunca expiran y se aplican créditos bonificados

Evitando penalizaciones por límites de velocidad

Los límites de tasa previenen el abuso, pero pueden interrumpir tu aplicación si se configuran incorrectamente. Nuestra API permite 300 solicitudes por minuto por clave y 8 solicitudes concurrentes por clave. Los cuerpos de las solicitudes deben mantenerse por debajo de 8 MB para evitar el rechazo.

Implementa la lógica de reintento con retroceso exponencial al alcanzar los límites de velocidad. Monitorea tu conteo de solicitudes por minuto para mantenerte dentro de los límites. Usa claves separadas para diferentes componentes de la aplicación para distribuir la carga. Una clave activa por cuenta significa que debes gestionar la rotación de claves cuidadosamente.

• 300 solicitudes por minuto por clave de API
• 8 solicitudes concurrentes permitidas por clave
• Los cuerpos de las solicitudes deben estar por debajo de 8 MB
• Una clave activa por cuenta con capacidad de reemplazo

Comparando costos de modelos sin censura

Los modelos sin censura suelen costar más que los modelos estándar debido a requisitos especializados de entrenamiento e inferencia. Nuestro modelo cobra $0.15 por millón de tokens de entrada y $0.50 por millón de tokens de salida. Este precio refleja los recursos de cómputo necesarios para la generación sin censura.

Los modelos estándar pueden costar menos pero incluyen restricciones de contenido que afectan la calidad de la respuesta. Los modelos sin censura proporcionan respuestas sin restricciones para contenido legal para adultos, ficción e investigación. Elige según tus necesidades de contenido en lugar del precio solo.

• Los modelos sin censura requieren entrenamiento e inferencia especializados.
• Nuestro precio refleja los costos de cómputo de generación sin censura
• Las restricciones de contenido afectan la calidad de la respuesta y el costo
• Elige según las necesidades de contenido, no solo el precio

Seguimiento y alertas de facturación

El seguimiento del uso de tokens te ayuda a monitorear los costos y evitar exceder el presupuesto. Nuestra API devuelve conteos de tokens en cada respuesta, incluidas las respuestas en streaming. Rastrea estos conteos en los registros y paneles de tu aplicación.

Configura alertas cuando el uso alcance ciertos umbrales. Monitorea las proporciones de tokens de entrada frente a los de salida para optimizar tus prompts. Usa los conteos de tokens para calcular los costos reales y compararlos con tu saldo prepagado.

• Los conteos de tokens aparecen en cada respuesta, incluyendo las de streaming
• Monitora las proporciones de tokens de entrada frente a salida
• Configura alertas de uso para evitar exceder el presupuesto
• Calcular los costos reales utilizando los recuentos de tokens