Mistral API dokumentáció: Gyors kezdés útmutató

Telepítse az SDK-t, és állítsa be az alap URL-t

Kezdje a hivatalos SDK telepítésével a nyelvéhez, és irányítsa azt az endpointunkra. A base URL: HTTPS://api.mistralapidoc.com/v1. Ez az egyetlen változás minden hívást az uncensored infrastruktúránkhoz irányít meglévő logika megváltoztatása nélkül. Bármely szabványos klienst használhat, amely támogatja az OpenAI-kompatibilitást. A beállítás másodpercek alatt megtörténik, és nem igényel komplex konfigurációs fájlokat.

Győződjön meg róla, hogy egyedi API-kulcsát az Authorization fejlécben adja át. Rendszerünk ezt a kulcsot az előre fizetett egyenlegéhez validálja, mielőtt feldolgozna bármilyen tokent. Ez a megközelítés biztosítja, hogy csak a felhasznált tartalom után fizessen. Tartsa biztonságban a kulcsot, és cserélje ki, ha gyanítja a kiszivárgást. A kulcs azonnal kiadásra kerül regisztráció után Google vagy e-mail útján.

Hajtsa végre az első kérést az uncensored modellhez

Küldjön egy POST kérést a /v1/chat/completions végpontra az "uncensored" értékre állított modellazonosítóval. Ez a modell válaszol jogszerű felnőtt tartalmakra, fikcióra és vitatott témákra a szabványos visszautasítások nélkül. Ez egy nyílt súlyozású modell, amelyet a közvetlen válaszokra hangoltunk. Nem kell megadnia verziószámot, és nem kell útvonalat választania különböző szolgáltatók között. A válasz szöveget ad vissza a content mezőben.

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

A kérés törzse tartalmazza az üzenettömböt és opcionális paramétereket. Az API gracefully figyelmen kívül hagyja a felesleges mezőket. Ha egy egyszerű promptot küldesz, közvetlen kiegészítést kapsz. Használd ezt az integráció működésének ellenőrzésére, mielőtt bonyolult logikát adnál hozzá. A modell hatékonyan kezeli a 100,000 tokenes kontextust.

Engedélyezze a streamelést és kezelje a token-felhasználást

Állítsa be a stream értéket true-ra a tokenek Server-Sent Events-en keresztüli fogadásához. Ez a módszer csökkenti a vélt késleltetést hosszú válaszok esetén. A stream végső töredéke tartalmazza a teljes tokenfelhasználási statisztikát az adott kérelemhez. Naplózhatja ezeket a metrikákat az előfizetett kreditfogyasztás pontos követéséhez. A streamelés ideális chat felületekhez és valós idejű alkalmazásokhoz.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Kezelje a részleges válaszokat a tartalom-delta felhalmozásával. Az API biztosítja, hogy a teljes tokenmennyiség megegyezzen a tényleges felhasználással. A streamelés közbeni hibák esetén nem számítjuk fel a befejezetlen tokeneket. Ez a funkció zökkenőmentes felhasználói élményt nyújt, miközben átláthatóan kezeli a költségeket. Megszakíthatja a streamet, ha a felhasználó megszakítja a generálást.

Használjon függvényhívást és JSON módot

Adjon át egy tools tömböt a függvényhívás engedélyezéséhez. A modell strukturált eszköz hívásokat ad vissza, ha szükséges. A JSON mód kényszerítéséhez állítsa a response_format értékét json_object-re. Ez garantálja, hogy a kimenet érvényes JSON legyen, ami megkönnyíti az elemzést az alkalmazásban. Mindkét funkció működik a szabványos OpenAI SDK szintaxissal.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Határozza meg a függvény sémáját névvel, leírással és paraméterekkel. Az API a függvény nevét és argumentumait adja vissza a válaszban. Ez lehetővé teszi, hogy kódja külső logikát hajtson végre a modell döntése alapján. A JSON mód hasznos, ha szigorú adatstruktúrákra van szükség. Kombinálja ezeket a funkciókat a robusztus, automatizált munkafolyamatokhoz.

Paraméterek konfigurálása: hőmérséklet, top_p és seed

Állítsa be a temperature paramétert a véletlenszerűség szabályozására. Az alacsonyabb értékek determinisztikusabb válaszokat eredményeznek. A top_p korlátozza a nucleus mintavételezést a legvalószínűbb tokenekre. A seed reprodukálható kimeneteket biztosít a hibakereséshez. Ezek a paraméterek finom kontrollt adnak a modell viselkedése felett. Használja őket a kreativitás és a pontosság egyensúlyának beállításához.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Állítsa be a presence_penalty és frequency_penalty értékeket az ismétlés csökkentésére. A modell támogatja az összes szabványos OpenAI paramétert. Átadhat egy stop szekvenciát a generálás leállításához meghatározott jelzőknél. Ezek a vezérlők segítenek elérni a pontos kimeneti formátumot, amire szüksége van. Próbálja ki a különböző kombinációkat, hogy megtalálja az optimális beállításokat az Ön esetére.

Korlátok, hibák és kontextus ablak

API-nk 100 000 tokenes kontextusablakot támogat. A kérésenkénti maximális kimenet 16 000 token, vagy 2 048, ha elhagyja a max_tokens paramétert. Percenként 300 kérésre és kulcsonként 8 párhuzamos kérésre van korlát. A kérés törzse 8 MB alatt marad. Ezek a korlátok biztosítják a tisztességes felhasználást az összes előfizetéses ügyfél számára.

Kezelje az HTTP 401-es hibákat az API-kulcs ellenőrzésével. A 402-es hiba elégtelen előleges hitelt jelez. Töltse fel kriptovalutával a szolgáltatás folytatásához. A 429-es hiba azt jelenti, hogy túllépte a sebességkorlátot. Várjon egy kicsit az újrapróbálkozás előtt. Rendszerünk nem használ promptokat a képzéshez, így megőrzi az adatai adatvédelmét. A hibák és az elutasítások ingyenesek, így csak a sikeres kiegészítésekért fizet.