ราคา API OpenAI: ข้อผิดพลาดทั่วไปและวิธีหลีกเลี่ยง

การเปรียบเทียบต้นทุนโทเค็น: อินพุตเทียบกับเอาท์พุต

ราคา API OpenAI คิดแยกกันสำหรับ input และ output tokens ซึ่งหมายความว่าต้นทุนรวมของคุณขึ้นอยู่กับปริมาณที่คุณส่งและปริมาณที่โมเดลสร้าง Input tokens ครอบคลุม prompt ของคุณรวมถึงประวัติการสนทนา Output tokens ครอบคลุมข้อความตอบกลับของโมเดล

โมเดลไร้การเซ็นเซอร์ของเราคิดค่าใช้เงิน $0.15 ต่อล้านโทเค็นอินพุต และ $0.50 ต่อล้านโทเค็นเอาต์พุต ค่าเอาต์พุตที่สูงกว่าสะท้อนถึงทรัพยากรการคำนวณที่ต้องการสำหรับการสร้างข้อความ การตอบกลับที่สั้นกว่ามีต้นทุนต่ำกว่าแต่ยังคงใช้เครดิตเติมเงินของคุณ

• โทเค็นอินพุตรวมถึงคำสั่งของคุณและประวัติการสนทนา
• โทเค็นเอาท์พุตครอบคลุมคำตอบทั้งหมดของโมเดล
• โทเค็นทั้งสองประเภทนับรวมอยู่ในยอดเงินพรีเพดของคุณ
• ข้อผิดพลาดและการปฏิเสธไม่ใช้โทเค็น

Copycurl https://api.mistralopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list top 5 linux commands for disk cleanup"}]
  }'

ขีดจำกัดหน้าต่างบริบทและค่าใช้จ่ายที่ไม่คาดคิด

ขีดจำกัดหน้าต่างบริบทส่งผลต่อต้นทุน tokens ของคุณโดยตรงเพราะการสนทนาที่ยาวนานใช้ input tokens มากขึ้น โมเดล uncensored ของเรารองรับหน้าต่างบริบท 100,000 tokens สำหรับ prompt รวมกับ completion คุณสามารถ generate ได้สูงสุด 16,000 tokens ต่อการ request หากละเว้น max_tokens ขีดจำกัดจะลดลงเหลือ 2,048 tokens

หน้าต่างบริบทที่ยาวขึ้นหมายถึงต้นทุน input token ที่สูงขึ้นแต่ยังเปิดใช้งานการให้เหตุผลที่ซับซ้อนยิ่งขึ้น การตัดประวัติการสนทนาช่วยลดต้นทุน input แต่อาจทำให้คุณภาพของคำตอบลดลง หาจุดสมดุลที่เหมาะกับกรณีการใช้งานของคุณ

• context window ขนาด 100,000 สำหรับ input และ output รวมกัน
• output tokens สูงสุด 16,000 ต่อคำขอ
• โทเคนเอาต์พุตเริ่มต้น 2,048 หากละ max_tokens
• หน้าต่างบริกส่งผลต่อทั้งต้นทุนและคุณภาพการตอบสนอง

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การคำนวณโทเค็นแบบสตรีมเทียบกับไม่สตรีม

การตอบแบบสตรีมคำนวณจำนวนโทเค็นในลักษณะเดียวกันกับการร้องขอแบบไม่สตรีม ทุกโทเค็นที่ส่งไปยังไคลเอนต์จะถูกนับรวมในยอดเงินที่เติมไว้ล่วงหน้าของคุณ ไม่ว่าวิธีการส่งจะเป็นอย่างไร การสตรีมเพียงแต่ส่งโทเค็นแบบเพิ่มทีละน้อยแทนที่จะส่งทั้งหมดในครั้งเดียว

ใช้การสตรีมเมื่อต้องการข้อมูลป้อนกลับแบบเรียลไทม์แต่ติดตามการใช้โทเค็นอย่างระมัดระวัง ชิ้นข้อมูลสุดท้ายจะประกอบด้วยจำนวนโทเค็นรวมสำหรับทั้งอินพุตและเอาต์พุต ติดตามจำนวนเหล่านี้เพื่อให้อยู่ในงบประมาณของคุณ

• การสตรีมมิ่งและการไม่สตรีมมิ่งใช้การนับโทเค็นที่เหมือนกัน
• โทเค็นทุกตัวที่ส่งไปยังไคลเอนต์ใช้เครดิต
• ส่วนสุดท้ายรวมถึงจำนวนโทเค็นอินพุตและเอาต์พุตรวม
• ติดตามการใช้งาน token ในการ implement streaming ของคุณ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ข้อผิดพลาดการกำหนดค่า SDK ที่พบบ่อย

การกำหนดค่า SDK ผิดพลาดทำให้เกิดค่าใช้จ่ายที่ไม่คาดคิดจากการส่ง token มากเกินไปหรือทำ request ซ้ำ นักพัฒนามักลืมตั้งค่า max_tokens ทำให้ได้ response ยาวเกินคาด บางคนพลาดการ implement streaming ที่ยังคงส่ง token ต่อหลังจาก response เสร็จแล้ว

กำหนดค่า SDK ของคุณด้วยพารามิเตอร์ชัดเจน ตั้งค่า max_tokens เพื่อควบคุมความยาวของเอาต์พุต เปิดใช้งานสตรีมเฉพาะเมื่อคุณต้องการข้อมูลป้อนแบบเรียลไทม์ ตรวจสอบการใช้งานโทเค็นในบันทึกแอปพลิเคชันของคุณ

• ตั้งค่า max_tokens ที่ชัดเจนเพื่อควบคุมความยาวของเอาต์พุต
• เปิดใช้งานการสตรีมเฉพาะเมื่อต้องการข้อเสนอแนะแบบเรียลไทม์
• ติดตามจำนวน token ใน log แอปพลิเคชันของคุณ
• กำหนดค่าค่า timeout เพื่อป้องกันไม่ให้ request แข็งค้าง

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ทำไมเครดิตยอดเงินล่วงหน้าจึงช่วยให้คุณประหยัดเงิน

เครดิตพรีเพดขจัดความสูญเปล่าของสมาชิกโดยการคิดเฉพาะการใช้งานโทเค็นจริง ระบบของเราคิดค่าบริการ $0.15 ต่อล้านโทเค็นอินพุตและ $0.50 ต่อล้านโทเค็นเอาต์พุต ข้อผิดพลาดและการบริโภคโทเค็นเป็นศูนย์ ดังนั้นคุณจึงไม่จ่ายสำหรับคำขอที่ล้มเหลว

ชำระ $20 ถึง $500 เป็นคริปโตสำหรับ USDT บน TRC20 หรือ USDC บน Base รับเครดิตโบนัสเมื่อโหลดเงิน $50 ขึ้นไป เครดิตไม่หมดอายุ คุณสามารถใช้งานได้เมื่อใดก็ได้ ไม่มีค่าธรรมเนียมรายเดือน หมายความว่าคุณจ่ายเฉพาะสิ่งที่ใช้จริง

• เครดิตพรีเพดคิดเฉพาะการใช้งานโทเค็นจริง
• ข้อผิดพลาดและการปฏิเสธไม่ใช้โทเค็น
• เติมเงิน $20 ถึง $500 ด้วยคริปโต
• เครดิตไม่มีวันหมดอายุและมีเครดิตโบนัส

หลีกเลี่ยงค่าปรับจำกัดอัตรา

อัตราจำกัดการใช้งานช่วยป้องกันการ滥用 แต่อาจขัดจังหวะแอปพลิเคชันของคุณหากกำหนดค่าไม่ถูกต้อง API ของเราอนุญาตให้ส่งคำขอได้ 300 คำขอต่อนาทีต่อคีย์ และคำขอพร้อมกัน 8 คำขอต่อคีย์ ขนาดของข้อมูลคำขอต้องไม่เกิน 8 MB เพื่อหลีกเลี่ยงการปฏิเสธ

เพิ่มลอจิกการลองใหม่ด้วยการถอยหลังแบบทวีคูณเมื่อชนขีดจำกัดอัตรา ตรวจสอบจำนวนคำขอของคุณต่อนาทีเพื่อให้อยู่ในขีดจำกัด ใช้คีย์แยกกันสำหรับส่วนประกอบแอปพลิเคชันที่แตกต่างกันเพื่อกระจายโหลด คีย์ที่ใช้งานหนึ่งคีย์ต่อบัญชีหมายความว่าคุณต้องจัดการการหมุนคีย์อย่างระมัดระวัง

• 300 คำขอต่อนาทีต่อคีย์ API
• 8 concurrent requests allowed per key
• ร่างกายคำขอต้องอยู่ใต้ 8 MB
• คีย์ใช้งานหนึ่งคีย์ต่อบัญชีพร้อมความสามารถในการแทนที่

การเปรียบเทียบต้นทุนโมเดล uncensored

โมเดลแบบไม่เซ็นเซอร์มักมีราคาสูงกว่าโมเดลมาตรฐานเนื่องจากความต้องการการฝึกฝนและการอนุมานเฉพาะทาง โมเดลของเราคิดราคา $0.15 ต่อล้าน input tokens และ $0.50 ต่อล้าน output tokens ราคานี้สะท้อนถึงทรัพยากรการคำนวณที่จำเป็นสำหรับการสร้างเนื้อหาแบบไม่เซ็นเซอร์

โมเดลมาตรฐานอาจมีราคาต่ำกว่าแต่มีการจำกัดเนื้อหาที่ส่งผลต่อคุณภาพการตอบกลับ โมเดล uncensored ให้การตอบกลับที่ไม่มีการจำกัดสำหรับเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย นิยาย และการวิจัย เลือกตามความต้องการเนื้อหาของคุณมากกว่าราคาเพียงอย่างเดียว

• โมเดล Uncensored ต้องการการฝึกฝนและการอนุมานแบบพิเศษ
• ราคาของเราสะท้อนถึงต้นทุนการคำนวณสำหรับการสร้างแบบ uncensored
• ข้อจำกัดเนื้อหาส่งผลต่อคุณภาพการตอบกลับและต้นทุน
• เลือกตามความต้องการของเนื้อหา ไม่ใช่แค่ราคา

การติดตามและการแจ้งเตือนการเรียกเก็บเงิน

การติดตามการใช้งานโทเค็นช่วยให้คุณติดตามค่าใช้จ่ายและป้องกันงบประมาณเกิน Our API ส่งคืนจำนวนโทเค็นในทุกการตอบกลับ รวมถึงการตอบกลับแบบสตรีม ติดตามจำนวนเหล่านี้ในบันทึกแอปพลิเคชันและแดชบอร์ดของคุณ

ตั้งค่าการแจ้งเตือนเมื่อการใช้งานถึงเกณฑ์ tertentu ติดตามอัตราส่วนระหว่างโทเค็นอินพุตและเอาท์พุตเพื่อปรับแต่ง prompt ของคุณ ใช้จำนวนโทเค็นในการคำนวณต้นทุนจริงและเปรียบเทียบกับยอดเงินเติมเงินของคุณ

• จำนวนโทเค็นปรากฏในทุกข้อมูลตอบกลับรวมถึงการสตรีม
• ติดตามอัตราส่วน input เทียบกับ output token
• ตั้งค่าการแจ้งเตือนการใช้งานเพื่อป้องกันงบประมาณเกิน
• Calculate actual costs using token counts