Mistral api doc: Οδηγός Γρήγορης Έναρξης
Μετακίνηση του υπάρχοντος κώδικά σας στο uncensored LLM μας αλλάζοντας τη βάση URL και το API key. Αυτή η τεκμηρίωση API mistral σας καθοδηγεί στα ακριβή βήματα για να ξεκινήσετε να στέλνετε αιτήματα χωρίς vendor lock-in.
Εγκαταστήστε το SDK και ορίστε τη βασική διεύθυνση URL
Ξεκινήστε εγκαθιστώντας το επίσημο SDK για τη γλώσσα σας και κατευθύνοντάς το στο endpoint μας. Η βασική διεύθυνση URL είναι HTTPS://api.mistralapidoc.com/v1. Αυτή η μοναδική αλλαγή κατευθύνει όλες τις κλήσεις στην υποδομή μας χωρίς λογοκρισία χωρίς να αλλάζει την υπάρχουσα λογική σας. Μπορείτε να χρησιμοποιήσετε οποιονδήποτε τυπικό πελάτη που υποστηρίζει συμβατότητα με OpenAI. Η ρύθμιση διαρκεί δευτερόλεπτα και δεν απαιτεί σύνθετα αρχεία διαμόρφωσης.
Βεβαιωθείτε ότι περνάτε το μοναδικό κλειδί API σας στην κεφαλίδα Authorization. Το σύστημά μας επαληθεύει αυτό το κλειδί με βάση το προπληρωμένο σας υπόλοιπο πριν επεξεργαστεί οποιαδήποτε tokens. Αυτή η προσέγγιση διασφαλίζει ότι πληρώνετε μόνο για αυτό που χρησιμοποιείτε. Κρατήστε το κλειδί σας ασφαλές και αλλάξτε το αν υποψιάζεστε έκθεση. Το κλειδί εκδίδεται άμεσα κατά την εγγραφή μέσω Google ή email.
Κάντε την πρώτη αίτηση στο μοντέλο uncensored
Στείλτε μια αίτηση POST στο /v1/chat/completions με το model ID ρυθμισμένο σε "uncensored". Αυτό το μοντέλο απαντά σε νόμιμο περιεχόμενο ενηλίκων, φαντασία και αμφιλεγόμενα θέματα χωρίς τις τυπικές απορρίψεις. Είναι ένα μοντέλο ανοιχτού βάρους βελτιστοποιημένο για άμεσες απαντήσεις. Δεν χρειάζεται να προσδιορίσετε έναν αριθμό έκδοσης ή να κάνετε διαδρομή μεταξύ διαφορετικών προμηθευτών. Η απόκριση επιστρέφει κείμενο στο πεδίο content.
curl https://api.mistralapidoc.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List all available models and their context windows"}]
}'Το σώμα της αίτησης περιλαμβάνει το array μηνυμάτων σας και προαιρετικές παραμέτρους. Το API μας αγνοεί ομαλά επιπλέον πεδία. Αν στείλετε ένα απλό prompt, λαμβάνετε μια άμεση συμπλήρωση. Χρησιμοποιήστε το για να επαληθεύσετε ότι η ενσωμάτωσή σας λειτουργεί πριν προσθέσετε πολύπλοκη λογική. Το μοντέλο διαχειρίζεται πλαίσιο έως 100,000 tokens αποδοτικά.
Ενεργοποιήστε streaming και διαχειριστείτε τη χρήση token
Ορίστε stream σε true για λήψη tokens μέσω Server-Sent Events. Αυτή η μέθοδος μειώνει την αντιλαμβανόμενη καθυστέρηση για μακρές απαντήσεις. Το τελευταίο chunk στη ροή περιέχει τα πλήρη στατιστικά χρήσης tokens για εκείνη την αίτηση. Μπορείτε να καταγράψετε αυτά τα μετρικά για να παρακολουθείτε ακριβώς την κατανάλωση του προκαταβεβλημένου credit σας. Το streaming είναι ιδανικό για διεπαφές συνομιλίας και εφαρμογές πραγματικού χρόνου.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Διαχειριστείτε τις μερικές απαντήσεις συσσωρεύοντας τα διαλείμματα περιεχομένου. Η API μας διασφαλίζει ότι ο συνολικός αριθμός tokens ταιριάζει με την πραγματική χρήση. Τα σφάλματα κατά τη ροή δεδομένων δεν σας χρεώνουν για τα ακατέληκτα tokens. Αυτή η λειτουργία παρέχει μια ομαλή εμπειρία χρήστη διατηρώντας τα κόστη διαφανή. Μπορείτε να διακόψετε τη ροή νωρίς αν ο χρήστης διακόψει τη δημιουργία.
Χρησιμοποιήστε κλήση συναρτήσεων και λειτουργία JSON
Περνάτε ένα array tools για να ενεργοποιήσετε την κλήση συναρτήσεων. Το μοντέλο θα εξάγει δομημένες κλήσεις εργαλείων όταν είναι σκόπιμο. Μπορείτε επίσης να επιβάλετε τη λειτουργία JSON ρυθμίζοντας το response_format σε json_object. Αυτό εγγυάται ότι η έξοδος είναι έγκυρο JSON, κάτι που απλοποιεί την επεξεργασία στην εφαρμογή σας. Και τα δύο χαρακτηριστικά λειτουργούν με την τυπική σύνταξη του OpenAI SDK.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ορίστε το σχήμα της συνάρτησής σας με όνομα, περιγραφή και παραμέτρους. Το API επιστρέφει το όνομα της συνάρτησης και τα ορίσματα στην απάντηση. Αυτό επιτρέπει στον κώδικά σας να εκτελεί εξωτερική λογική βάσει της απόφασης του μοντέλου. Η λειτουργία JSON είναι χρήσιμη όταν χρειάζεστε αυστηρές δομές δεδομένων. Συνδυάστε αυτά τα χαρακτηριστικά για ισχυρές, αυτοματοποιημένες ροές εργασίας.
Ρυθμίστε παραμέτρους: θερμοκρασία, top_p, και seed
Ρυθμίστε τη θερμοκρασία για τον έλεγχο της τυχαίας συμπεριφοράς. Οι χαμηλότερες τιμές κάνουν τις απαντήσεις πιο ντετερμινιστικές. Το top_p περιορίζει τη δειγματοληψία πυρήνα στα πιο πιθανά tokens. Το seed εξασφαλίζει αναπαραγώγιμα αποτελέσματα για debugging. Αυτά τα παραμέτρα σας δίνουν λεπτομερή έλεγχο πάνω στη συμπεριφορά του μοντέλου. Χρησιμοποιήστε τα για να ρυθμίσετε την ισορροπία μεταξύ δημιουργικότητας και ακρίβειας.
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Ορίστε presence_penalty και frequency_penalty για τη μείωση της επανάληψης. Το μοντέλο υποστηρίζει όλες τις τυπικές παραμέτρους OpenAI. Μπορείτε να περάσετε μια ακολουθία stop για να διακόψετε τη δημιουργία σε συγκεκριμένους δείκτες. Αυτοί οι έλεγχοι σας βοηθούν να λάβετε το ακριβές μορφότυπο εξόδου που χρειάζεστε. Πειραματιστείτε με διαφορετικούς συνδυασμούς για να βρείτε τις βέλτιστες ρυθμίσεις για την περίπτωσή σας.
Όρια, σφάλματα και context window
Η API μας υποστηρίζει παράθυρο συνάφειας 100.000 tokens. Η μέγιστη έξοδος ανά αίτημα είναι 16.000 tokens, ή 2.048 αν παραλείψετε το max_tokens. Περιορίζεστε σε 300 αιτήματα ανά λεπτό και 8 ταυτόχρονα αιτήματα ανά κλειδί. Το σώμα του αιτήματος πρέπει να παραμένει κάτω από 8 MB. Αυτά τα όρια διασφαλίζουν δίκαιη χρήση για όλους τους προπληρωμένους πελάτες.
Διαχειριστείτε τα σφάλματα HTTP 401 επαληθεύοντας το API key σας. Ένα σφάλμα 402 υποδεικνύει ανεπαρκά προπληρωμένα credit. Προσθέστε crypto για να ανακτήσετε την υπηρεσία. Ένα σφάλμα 429 σημαίνει ότι υπερβήκατε το όριο ρυθμού. Περιμένετε λίγο πριν κάνετε επανάληψη. Το σύστημά μας δεν χρησιμοποιεί prompts για εκπαίδευση, διατηρώντας την ιδιωτικότητα των δεδομένων σας. Τα σφάλματα και οι απορρίψεις είναι δωρεάν, οπότε πληρώνετε μόνο για τις επιτυχημένες ολοκληρώσεις.
Συχνές ερωτήσεις
Αυτή είναι η επίσημη μονάδα API Mistral;
Όχι, αυτή είναι μια ανεξάρτητη υπηρεσία φιλοξενούσα ένα μοντέλο χωρίς λογοκρισία. Χρησιμοποιούμε το ίδιο πρωτόκολλο συμβατό με OpenAI αλλά τρέχουμε τη δική μας υποδομή. Ελέγξτε την τεκμηρίωση του παρόχου για τις συγκεκριμένες λεπτομέρειές του.
Τι συμβαίνει αν λάβω σφάλμα 402;
Σφάλμα 402 σημαίνει ότι το προκαταβλημένο υπόλοιπό σας έχει εξαντληθεί. Μπορείτε να προσθέσετε κεφάλιο με USDT ή USDC για να προσθέσετε υπόλοιπο. Το υπάρχον υπόρολό σας δεν λήγει ποτέ, οπότε μπορείτε να προσθέσετε περισσότερο όποτε θέλετε.
Υποστηρίζει αυτή η API δημιουργία εικόνων;
Όχι, παρέχουμε μόνο text completions μέσω /v1/chat/completions. Δεν προσφέρουμε embeddings, δημιουργία εικόνας, ήχου ή βίντεο. Εστιάστε σε υψηλής ποιότητας απαντήσεις κειμένου με το uncensored μοντέλο μας.
Το κλειδί API σας περιμένει
Εγγραφείτε, αποκτήστε το κλειδί σας, ενημερώστε τη βάση URL. Αυτό είναι.
