เอกสาร API Mistral: ข้อผิดพลาดทั่วไปและการแก้ไข
นักพัฒนาหลายคนมักคิดว่า API แบบไม่มีเซนเซอร์ทำงานเหมือนกับผู้ขายรายใหญ่ ซึ่งนำไปสู่ข้อผิดพลาดที่ไม่คาดคิดในการจัดการบริบท ขนาด body และการเรียกเก็บเงิน คู่มือนี้ชี้แจงข้อจำกัดเฉพาะของเอนด์พอยต์ที่เข้ากันได้กับ OpenAI ของเราเพื่อให้คุณสามารถย้ายโค้ดของคุณได้โดยไม่มีความเสียดทานที่ซ่อนอยู่
อัปเดตล่าสุด
ความผิดพลาดที่ 1: คิดว่าบริบทไม่มีจำกัดโดยไม่ตรวจสอบขีดจำกัด
โมเดลรองรับหน้าต่างบริบทขนาด 100,000 tokens แต่ไม่ใช่ค่าอนันต์ คุณต้องคำนวณทั้ง prompt และ completion ในยอดรวมนี้ หากข้อความอินพุตของคุณเข้าใกล้ 84,000 tokens โมเดลอาจทำการตัดทอนหรือปฏิเสธคำขอ ควรตรวจสอบการใช้งาน tokens เสมอเพื่อให้อยู่ในขีดจำกัดแข็งที่ 100,000 tokens
พิจารณาใช้ไลบรารี tokenizer ในโค้ดไคลเอนต์ของคุณเพื่อประมาณจำนวนโทเค็นก่อนส่งคำขอ สิ่งนี้ป้องกันการใช้เครดิตที่สูญเปล่าสำหรับ payload ที่ถูกปฏิเสธ การสตรีมช่วยจัดการหน่วยความจำ แต่ขีดจำกัด context window ยังคงเข้มงวด
ข้อผิดพลาดที่ 2: การละเลยข้อจำกัดขนาดบอดีคำขอ 8 MB
แต่ละ request body ไม่สามารถเกิน 8 MB ได้ ขีดจำกัดนี้ใช้กับ HTTP payload ทั้งหมด รวมถึงโครงสร้าง JSON และ metadata เอกสารขนาดใหญ่ที่ส่งเป็น base64 หรือข้อความธรรมดาสามารถเกินขีดจำกัดนี้ได้ง่าย แบ่งข้อมูลนำเข้าของคุณเป็นชิ้นเล็กๆ หากคุณกำลังประมวลผลเอกสารยาว
- ตรวจสอบขนาดโหลดของคุณก่อนส่ง
- ใช้การสตรีมเพื่อลดแรงกดดันต่อหน่วยความจำ
- บีบอัดฟิลด์ที่ไม่จำเป็นใน JSON ของคุณ
การละเลยข้อจำกัดนี้ส่งผลให้เกิดข้อผิดพลาด 413 Payload Too Large การแก้ไขปัญหานี้มักต้องตรวจสอบขนาด raw request body API ของเราบังคับใช้นี้อย่างเคร่งครัดเพื่อรักษาประสิทธิภาพ
ข้อผิดพลาดที่ 3: การคาดหวังการตรวจสอบมาตรฐานเมื่อไม่มีอยู่จริง
เนื่องจากโมเดลไม่มีเซนเซอร์ (uncensored) โมเดลนี้จะไม่ได้ใช้ตัวกรองการกลั่นกรองเชิงพาณิชย์มาตรฐาน มันจะสร้างเนื้อหาสำหรับผู้ใหญ่ เนื้อหาที่ถกเถียงได้ หรือเนื้อหาเชิงจินตนาการโดยไม่มีการปฏิเสธ อย่างไรก็ตาม ขีดจำกัดเนื้อหาแบบแข็งจะยังคงใช้เสมอ: เนื้อหาทางเพศที่เกี่ยวข้องกับเด็กจะถูกปฏิเสธ นี่คือกฎคงที่ ไม่ใช่การตั้งค่าที่ปรับได้
อย่าสันนิษฐานว่าโมเดลจะเซ็นเซอร์ตัวเองตามน้ำเสียงหรือสไตล์ มันตอบตรงไปตรงมา หากคุณต้องการการกลั่นกรอง ให้ดำเนินการในชั้นแอปพลิเคชันของคุณเอง สิ่งนี้ให้คุณควบคุมการกรองเนื้อหาได้อย่างเต็มที่โดยไม่พึ่งพาผู้ให้บริการ API
ข้อผิดพลาดที่ 4: การเข้าใจวงจรการเรียกเก็บเงินคริปโตแบบเงินล่วงหน้าผิดพลาด
ไม่มีค่าธรรมเนียมรายเดือนหรือสมาชิก คุณเติมเงินด้วยคริปโต และเครดิตจะถูกหักตามการใช้งานโทเค็นจริง ๆ ข้อผิดพลาดนั้นฟรี ดังนั้นคุณจึงจ่ายเฉพาะสำหรับการดำเนินการที่สำเร็จเท่านั้น เครดิตไม่มีวันหมดอายุ ดังนั้นคุณสามารถเติมเงินได้ตลอดเวลา
เติมเงินเริ่มต้นที่ $20 ถึง $500 เป็นจำนวนเต็ม มีโบนัส: +5% เมื่อเติม $50, +10% เมื่อเติม $100 และ +15% เมื่อเติม $200 รับการชำระเงินผ่าน USDT (TRC20) หรือ USDC (Base) เท่านั้น โมเดลนี้โปร่งใสและคาดการณ์ได้
ข้อผิดพลาดที่ 5: การไม่ใช้สตรีมสำหรับการสร้างข้อความยาว
การเติมข้อความแบบยาวอาจใช้เวลาพอสมควร หากไม่ใช้การสตรีม ไคลเอนต์ของคุณจะรอจนกว่าจะรับข้อความทั้งหมดก่อนจึงจะแสดงผล ซึ่งส่งผลต่อประสบการณ์ผู้ใช้และอาจเกิด Timeout ได้ ควรใช้ Server-Sent Events (SSE) เพื่อรับ token ทันทีที่สร้างเสร็จ
การสตรีมยังช่วยจัดการการใช้งานหน่วยความจำฝั่งไคลเอนต์ ชิ้นสุดท้ายรวมถึงรายละเอียดการใช้งานโทเค็น ซึ่งช่วยให้คุณติดตามต้นทุนแบบเรียลไทม์ ปรับโค้ดไคลเอนต์ของคุณให้จัดการสตรีม SSE ได้ถูกต้อง
ความผิดพลาดที่ 6: ลืมว่าข้อผิดพลาดนั้นฟรีแต่มีการนับจำนวนต่างออกไป
ข้อผิดพลาดไม่ใช้โทเค็น ดังนั้นคุณไม่จ่ายสำหรับข้อผิดพลาด อย่างไรก็ตาม ข้อผิดพลาดยังคงนับAgainst อัตราจำกัดของคุณ หากคุณส่ง 300 คำขอต่อนาทีและหลายคำขอล้มเหลว คุณอาจชนกับอัตราจำกัด ซึ่งบล็อกคำขอที่สำเร็จ
เพิ่มลอจิกการลองใหม่ด้วยการถอยหลังแบบทวีคูณ สิ่งนี้ป้องกันไม่ให้ API ถูกท่วมด้วยคำขอที่ล้มเหลว ตรวจสอบอัตราข้อผิดพลาดของคุณเพื่อปรับโครงสร้าง payload ของคุณ ข้อผิดพลาดฟรีเป็นประโยชน์ แต่ขีดจำกัดอัตราค่อนข้างเข้มงวด
ความผิดพลาดที่ 7: สับสน API นี้กับผู้ให้บริการ Mistral ทางการ
นี่คือบริการอิสระ เราไม่ใช่ผู้ให้บริการ Mistral อย่างเป็นทางการ เราเสนอ endpoint ที่เข้ากันได้กับ OpenAI ที่รันโมเดลแบบไม่มีเซนเซอร์ของเราเอง base URL คือ HTTPS://api.mistralapidoc.com/v1 อย่าสันนิษฐานว่าราคาหรือขีดจำกัดของ Mistral อย่างเป็นทางการใช้ที่นี่
ตรวจสอบเอกสารทางการของ Mistral สำหรับโมเดลและราคาเฉพาะของพวกเขา API ของเราออกแบบสำหรับนักพัฒนาที่ต้องการ output uncensored พร้อมความเข้ากันได้กับ SDK มาตรฐาน เราไม่ได้ให้บริการโมเดลของผู้ขายรายอื่น โมเดลของเราปรับแต่งสำหรับเนื้อหาผู้ใหญ่และขาดการตรวจสอบมาตรฐาน
เอกสาร API Mistral: รายการตรวจสอบการย้ายระบบ
ก่อนการย้ายโค้ดของคุณ ให้ตรวจสอบ URL พื้นฐานและคีย์ API ของคุณ ใช้ SDK ทางการของ OpenAI กับเอนด์พอยต์ของเรา ตั้งค่า id โมเดลเป็น "uncensored" ทดสอบด้วยข้อมูลขนาดเล็กก่อน ตรวจสอบว่าไคลเอนต์ของคุณจัดการสตรีม SSE ได้อย่างถูกต้อง
- อัปเดต base_url ไปยังเอนด์พอยต์ของเรา
- ตั้งค่า model เป็น "uncensored"
- เปิดใช้งานการสตรีมสำหรับผลลัพธ์ที่ยาว
- ติดตามการใช้งานโทเค็นและข้อผิดพลาด
รายการตรวจสอบนี้รับประกันการเปลี่ยนผ่านที่ราบรื่น API ของเราเข้ากันได้กับไคลเอนต์ OpenAI มาตรฐาน ไม่มี vendor lock-in เพียงเปลี่ยน URL พื้นฐานและคีย์ เริ่มต้นด้วยเครดิตทดลองเพื่อตรวจสอบฟังก์ชันการทำงาน
คำถามที่พบบ่อย
นี่คือ API ของ Mistral อย่างเป็นทางการหรือไม่?
นี่คือบริการอิสระที่เสนอเอนด์พอยต์ที่เข้ากันได้กับ OpenAI เรารันโมเดลที่ไม่มี цензуราของตัวเอง ไม่ใช่โมเดล Mistral ทางการ ตรวจสอบเอกสารทางการของ Mistral สำหรับราคาและข้อจำกัดเฉพาะของพวกเขา
ฉันจะชำระเงินสำหรับ API ได้อย่างไร?
เรารับเฉพาะคริปโต: USDT (TRC20) หรือ USDC (Base) ยอดเติมอยู่ระหว่าง $20 ถึง $500 พร้อมโบนัสสำหรับยอดที่สูงขึ้น
โมเดลแบบไม่มีการกรองเนื้อหาปฏิเสธเนื้อหาสำหรับผู้ใหญ่หรือไม่?
ไม่ มันไม่ปฏิเสธเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย อย่างไรก็ตาม มันมีขีดจำกัดเด็ดขาดต่อเนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก การปฏิเสธนี้เปิดใช้งานเสมอ
ขีดจำกัดหน้าต่างบริบทคืออะไร?
โมเดลรองรับ 100,000 tokens สำหรับ prompt และ completion รวมกัน การแสดงผลสูงสุดต่อครั้งคือ 16,000 tokens ข้อผิดพลาดไม่มีการคิด tokens
คีย์ API ของคุณรออยู่
สมัครสมาชิก รับคีย์ของคุณ แล้วอัปเดต base URL ของคุณ แค่นั้นแหละ