मिस्ट्रल api दस्तावेज़: क्विकस्टार्ट गाइड

SDK इंस्टॉल करें और अपना बेस यूआरएल सेट करें

अपनी भाषा के लिए आधिकारिक SDK को इंस्टॉल करें और इसे हमारे एंडपॉइंट की ओर इशारा करें। बेस यूआरएल HTTPS://api.mistralapidoc.com/v1 है। यह एकमात्र परिवर्तन सभी कॉल को हमारे अनसेंसर्ड इन्फ्रास्ट्रक्चर की ओर निर्देशित करता है बिना आपके मौजूदा तर्क को बदले। आप किसी भी मानद क्लाइंट का उपयोग कर सकते हैं जो OpenAI संगतता का समर्थन करता है। सेटअप सेकंडों में होता है और इसमें कोई जटिल कॉन्फ़िगरेशन फ़ाइलों की आवश्यकता नहीं होती है।

सुनिश्चित करें कि आप अपने अद्वितीय API कुंजी को Authorization हेडर में पास करते हैं। हमारा सिस्टम किसी भी टोकन को प्रोसेस करने से पहले इस कुंजी की सत्यापन आपके प्रीपेड बैलेंस के खिलाफ करता है। इस दृष्टिकोण से सुनिश्चित होता है कि आप केवल उसी के लिए भुगतान करें जिसका आप उपयोग करते हैं। अपनी कुंजी को सुरक्षित रखें और यदि आप संदेह करते हैं कि वह उजागर हो गई है तो उसे बदल दें। कुंजी साइनअप के तुरंत बाद Google या ईमेल के माध्यम से जारी की जाती है।

uncensored मॉडल पर अपना पहला अनुरोध बनाएं

"uncensored" पर सेट मॉडल आईडी के साथ /v1/chat/completions पर POST अनुरोध भेजें। यह मॉडल कानूनी वयस्क सामग्री, कल्पना और विवादास्पद विषयों के लिए मानक अस्वीकृतियों के बिना प्रतिक्रिया देता है। यह सीधे उत्तरों के लिए ट्यून किया गया एक ओपन-वेइट मॉडल है। आपको संस्करण संख्या निर्दिष्ट करने की आवश्यकता नहीं है या अलग-अलग विक्रेताओं के बीच मार्ग नहीं बदलना है। प्रतिक्रिया content फ़ील्ड में टेक्स्ट लौटाती है।

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

अनुरोध बॉडी में आपका संदेश सरल और वैकल्पिक पैरामीटर शामिल हैं। हमारी API अतिरिक्त फ़ील्ड्स को सहजता से अनदेखा कर देती है। यदि आप एक सरल प्रॉम्पट भेजते हैं, तो आपको एक सीधी पूर्णता मिलती है। इसका उपयोग इस बात की जांच करने के लिए करें कि आपकी इंटीग्रेशन काम कर रही है, इससे पहले कि आप जटिल तर्क जोड़ें। मॉडल 100,000 टोकन तक के संदर्भ को कुशलता से संभालता है।

स्ट्रीमिंग सक्षम करें और टोकन उपयोग हैंडल करें

टोकन प्राप्त करने के लिए stream को true पर सेट करें Server-Sent Events के माध्यम से। इस विधि से लंबी प्रतिक्रियाओं के लिए अनुपस्थित विलंबता कम होती है। स्ट्रीम में अंतिम चंक में उस अनुरोध के लिए पूर्ण टोकन उपयोग आंकड़े होते हैं। आप अपने प्रीपेड क्रेडिट खपान को सटीक रूप से ट्रैक करने के लिए इन मेट्रिक्स को लॉग कर सकते हैं। स्ट्रीमिंग चैट इंटरफेस और वास्तविक-समय एप्लिकेशन के लिए आदर्श है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

आंशिक प्रतिक्रियाओं को कंटेंट डेल्टा को जमा करके हैंडल करें। हमारा API सुनिश्चित करता है कि कुल टोकन गणना वास्तविक उपयोग से मेल खाती है। स्ट्रीमिंग के दौरान त्रुटियों के लिए आपको अधूरे टोकनों के लिए चार्ज नहीं किया जाएगा। यह सुविधा एक सुचारू उपयोगकर्ता अनुभव प्रदान करती है और लागत को पारदर्शी रखती है। यदि उपयोगकर्ता जनरेशन को रोक दे, तो आप स्ट्रीम को जल्दी बंद कर सकते हैं।

फ़ंक्शन कॉलिंग और JSON मोड का उपयोग करें

फंक्शन कॉलिंग सक्षम करने के लिए एक tools एरे पास करें। मॉडल उचित होने पर संरचित टूल कॉल्स आउटपुट करेगा। आप response_format को json_object सेट करके JSON मोड को भी लागू कर सकते हैं। यह गारंटी देता है कि आउटपुट वैध JSON है, जो आपके एप्लिकेशन में पार्सिंग को सरल बनाता है। दोनों सुविधाएं मानक OpenAI SDK सिंटैक्स के साथ काम करती हैं।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

अपनी फ़ंक्शन स्कीमा को नाम, विवरण और पैरामीटर के साथ परिभाषित करें। API प्रतिक्रिया में फ़ंक्शन नाम और तर्क लौटाता है। इससे आपका कोड मॉडल के निर्णय के आधार पर बाहरी तर्क निष्पादित कर सकता है। JSON मोड तब उपयोगी होता है जब आपको सख्त डेटा संरचनाओं की आवश्यकता हो। इन सुविधाओं को मिलाकर मजबूत, स्वचालित वर्कफ़्लो बनाएं।

पैरामीटर कॉन्फ़िगर करें: तापमान, top_p, और seed

रैंडमनेस को नियंत्रित करने के लिए तापमान (temperature) को एडजस्ट करें। कम मान प्रतिक्रियाओं को अधिक निर्धारणात्मक बनाते हैं। top_p न्यूक्लियस सैंपलिंग को सबसे संभावित टोकन तक सीमित करता है। सीड डिबगिंग के लिए पुनरुत्पादक आउटपुट सुनिश्चित करती है। ये पैरामीटर आपको मॉडल के व्यवहार पर सूक्ष्म नियंत्रण प्रदान करते हैं। रचनात्मकता और सटीकता के बीच संतुलन को ट्यून करने के लिए इन्हें उपयोग करें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

पुनरावृत्ति कम करने के लिए presence_penalty और frequency_penalty सेट करें। मॉडल सभी मानक OpenAI पैरामीटर समर्थन करता है। आप विशिष्ट मार्कर पर जनरेशन रोकने के लिए एक stop अनुक्रम पास कर सकते हैं। ये नियंत्रण आपको आवश्यक आउटपुट फ़ॉर्मेट प्राप्त करने में मदद करते हैं। अपने उपयोग मामले के लिए अनुकूलतम सेटिंग्स खोजने के लिए विभिन्न संयोजनों का प्रयोग करें।

सीमाएं, त्रुटियां, और संदर्भ विंडो

हमारा API 100,000 टोकन के संदर्भ विंडो का समर्थन करता है। प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है, या यदि आप max_tokens छोड़ दें तो 2,048 है। प्रति मिनट 300 अनुरोधों और प्रति कुंजी 8 समवर्ती अनुरोधों तक सीमित हैं। अनुरोध बॉडी 8 MB से कम होनी चाहिए। ये सीमाएं सभी पूर्वभुगतान ग्राहकों के लिए उचित उपयोग को सुनिश्चित करती हैं।

अपने API कुंजी की जांच करके HTTP 401 त्रुटियों को हैंडल करें। एक 402 त्रुटि अपर्याप्त पूर्व-भुगतान क्रेडिट को दर्शाती है। सेवा को फिर से शुरू करने के लिए क्रिप्टो के साथ टॉप अप करें। एक 429 त्रुटि का अर्थ है कि आपने दर सीमा पार कर ली है। पुनः प्रयास करने से पहले कुछ समय प्रतीक्षा करें। हमारा सिस्टम प्रशिक्षण के लिए प्रॉम्प्ट का उपयोग नहीं करता है, जिससे आपकी डेटा गोपनीयता सुरक्षित रहती है। त्रुटियां और अस्वीकृतियां मुफ्त हैं, इसलिए आप केवल सफल पूर्णताओं के लिए भुगतान करते हैं।