เอกสาร API Mistral: คู่มือเริ่มต้นอย่างรวดเร็ว

ติดตั้ง SDK และตั้งค่า URL พื้นฐานของคุณ

เริ่มด้วยการติดตั้ง official SDK สำหรับภาษาของคุณและชี้ไปยัง endpoint ของเรา base URL คือ HTTPS://api.mistralapidoc.com/v1 การเปลี่ยนแปลงเพียงอย่างเดียวนี้จะกำหนดเส้นทาง call ทั้งหมดไปยังโครงสร้างพื้นฐาน uncensored ของเราโดยไม่เปลี่ยนตรรกะที่มีอยู่ของคุณ คุณสามารถใช้ไคลเอนต์มาตรฐานใดๆ ที่รองรับความเข้ากันได้กับ OpenAI การตั้งค่าใช้เวลาเพียงไม่กี่วินาทีและไม่ต้องการไฟล์การกำหนดค่าที่ซับซ้อน

ตรวจสอบว่าคุณได้ส่งคีย์ API เฉพาะของคุณในเฮดเดอร์ Authorization แล้วหรือไม่ ระบบของเราตรวจสอบคีย์นี้กับยอดเงินที่เติมเงินล่วงหน้าของคุณก่อนประมวลผลโทเค็นใดๆ วิธีการนี้ช่วยให้คุณจ่ายเฉพาะสิ่งที่ใช้เท่านั้น เก็บคีย์ของคุณให้ปลอดภัยและหมุนเวียนหากสงสัยว่ามีการเปิดเผย คีย์จะออกทันทีเมื่อสมัครสมาชิกทาง Google หรืออีเมล

ทำการขอข้อมูลครั้งแรกไปยังโมเดล uncensored

ส่งคำขอ POST ไปยัง /v1/chat/completions พร้อมตั้งค่า id โมเดลเป็น "uncensored" โมเดลนี้ตอบสนองต่อเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย เรื่องเล่า และหัวข้อที่ถกเถกันโดยไม่มีการปฏิเสธแบบมาตรฐาน เป็นโมเดล open-weight ที่ปรับแต่งสำหรับการตอบตรงๆ คุณไม่จำเป็นต้องระบุหมายเลขเวอร์ชันหรือเลือกเส้นทางระหว่างผู้ขายต่างๆ การตอบสนองจะส่งคืนข้อความในฟิลด์ content

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

ร่างกายคำขอรวมถึงอาร์เรย์ข้อความของคุณและพารามิเตอร์เสริม API ของเราละเว้นฟิลด์เพิ่มเติมอย่างสุภาพ หากคุณส่ง prompt ง่ายๆ คุณจะได้รับการเติมข้อความโดยตรง ใช้สิ่งนี้เพื่อตรวจสอบว่าการผสานรวมของคุณทำงานก่อนเพิ่มตรรกะที่ซับซ้อน โมเดลจัดการบริบทได้สูงสุด 100,000 โทเคนอย่างมีประสิทธิภาพ

เปิดใช้งานการสตรีมและจัดการการใช้โทเค็น

ตั้งค่า stream เป็น true เพื่อรับโทเค็นผ่าน Server-Sent Events วิธีการนี้ลดความล่าช้าที่รับรู้สำหรับคำตอบที่ยาว ชิ้นสุดท้ายในสตรีมประกอบด้วยสถิติการใช้โทเค็นครบถ้วนสำหรับคำขอนั้น คุณสามารถบันทึกเมตริกเหล่านี้เพื่อติดตามการบริโภคเครดิตพรีเพย์ของคุณได้อย่างแม่นยำ การสตรีมเหมาะสำหรับอินเทอร์เฟซแชทและแอปพลิเคชันแบบเรียลไทม์

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

จัดการการตอบสนองแบบไม่สมบูรณ์โดยการสะสมค่า delta ของเนื้อหา API ของเราจะรับประกันว่าจำนวนโทเค็นรวมจะตรงกับปริมาณการใช้งานจริง ข้อผิดพลาดระหว่างการสตรีมจะไม่คิดค่าบริการคุณสำหรับโทเค็นที่ไม่สมบูรณ์ คุณลักษณะนี้มอบประสบการณ์ผู้ใช้ที่ราบรื่นในขณะที่รักษาความโปร่งใสของค่าใช้จ่าย คุณสามารถหยุดสตรีมได้ทันทีหากผู้ใช้ทำการขัดขวางการสร้างข้อความ

ใช้ฟังก์ชันคอลลิงและโหมด JSON

ส่งอาร์เรย์ tools เพื่อเปิดใช้งาน function calling โมเดลจะส่งคืน tool calls ที่มีโครงสร้างเมื่อเหมาะสม คุณยังสามารถบังคับใช้โหมด JSON โดยตั้งค่า response_format เป็น json_object ซึ่งรับประกันว่าเอาต์พุตจะเป็น JSON ที่ถูกต้อง ทำให้การแยกข้อมูลในแอปพลิเคชันของคุณง่ายขึ้น คุณลักษณะทั้งสองนี้ทำงานกับไวยากรณ์ SDK มาตรฐานของ OpenAI

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

กำหนดสคีมาฟังก์ชันของคุณพร้อมชื่อ คำอธิบาย และพารามิเตอร์ API จะส่งกลับชื่อฟังก์ชันและอาร์กิวเมนต์ในการตอบกลับ สิ่งนี้ทำให้โค้ดของคุณสามารถดำเนินการตรรกะภายนอกได้ตามการตัดสินใจของโมเดล โหมด JSON มีประโยชน์เมื่อคุณต้องการโครงสร้างข้อมูลที่เข้มงวด รวมคุณลักษณะเหล่านี้สำหรับเวิร์กโฟลว์อัตโนมัติที่แข็งแกร่ง

กำหนดค่าพารามิเตอร์: temperature, top_p และ seed

ปรับค่า temperature เพื่อควบคุมความสุ่ม ค่าต่ำทำให้คำตอบมีความแน่นอนมากขึ้น top_p จำกัดการสุ่มแบบ nucleus ให้เหลือเฉพาะโทเค็นที่มีความน่าจะเป็นสูงสุด seed ช่วยให้ผลลัพธ์ทำซ้ำได้สำหรับการดีบัก พารามิเตอร์เหล่านี้ให้คุณควบคุมพฤติกรรมของโมเดลได้อย่างละเอียด ใช้ปรับสมดุลระหว่างความสร้างสรรค์และความแม่นยำ

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ตั้งค่า presence_penalty และ frequency_penalty เพื่อลดการทำซ้ำ โมเดลรองรับพารามิเตอร์มาตรฐานทั้งหมดของ OpenAI คุณสามารถส่งลำดับ stop เพื่อหยุดการสร้างที่เครื่องหมายเฉพาะ การควบคุมเหล่านี้ช่วยให้คุณได้รับรูปแบบเอาต์พุตที่ต้องการพอดี ลองใช้การผสมผสานที่แตกต่างกันเพื่อหาการตั้งค่าที่เหมาะสมที่สุดสำหรับกรณีการใช้งานของคุณ

ข้อจำกัด, ข้อผิดพลาด และหน้าต่างบริบท

API ของเรารองรับหน้าต่างบริบทขนาด 100,000 token ค่าเอาต์พุตสูงสุดต่อคำขอคือ 16,000 token หรือ 2,048 หากคุณไม่ได้ระบุ max_tokens คุณจะถูกจำกัดที่ 300 คำขอต่อนาที และ 8 คำขอพร้อมกันต่อคีย์ เนื้อหาของคำขอต้องไม่เกิน 8 MB ขีดจำกัดเหล่านี้รับประกันการใช้งานที่เป็นธรรมสำหรับลูกค้าที่เติมเงินล่วงหน้าทั้งหมด

จัดการข้อผิดพลาด HTTP 401 โดยตรวจสอบคีย์ API ข้อผิดพลาด 402 บ่งชี้ว่าเครดิตพรีเพดไม่เพียงพอ เติมด้วยคริปโตเพื่อดำเนินการบริการต่อ ข้อผิดพลาด 429 หมายถึงคุณเกินข้อจำกัดอัตราการใช้งาน รอสักครู่ก่อนลองใหม่ ระบบของเราไม่ใช้ prompt สำหรับการฝึกอบรม ซึ่งช่วยรักษาความเป็นส่วนตัวของข้อมูลของคุณ ข้อผิดพลาดและการปฏิเสธเนื้อหาไม่คิดค่าใช้จ่าย ดังนั้นคุณจึงจ่ายเฉพาะสำหรับการสร้างที่สำเร็จเท่านั้น