Dokumentace API Mistral: Rychlý start

Nainstalujte SDK a nastavte svou základní URL

Začněte instalací oficiálního SDK pro váš jazyk a nasměrujte jej na náš koncový bod. Základní URL je HTTPS://api.mistralapidoc.com/v1. Tato jediná změna přesměruje všechny volání do naší infrastruktury bez omezení bez změny stávající logiky. Můžete použít jakéhokoli standardního klienta, který podporuje kompatibilitu s OpenAI. Nastavení trvá sekundy a nevyžaduje složité konfigurační soubory.

Ujistěte se, že předáváte svůj jedinečný API klíč v hlavičce Authorization. Náš systém tento klíč ověřuje vůči vašemu předplacenému zůstatku před zpracováním jakýchkoli tokenů. Tento přístup zajišťuje, že platíte pouze za to, co použijete. Chraňte svůj klíč a v případě podezření na jeho zveřejnění ho vyměňte. Klíč je vydán okamžitě po registraci přes Google nebo e-mail.

Proveďte svůj první požadavek na uncensored model

Odešlete požadavek POST na /v1/chat/completions s ID modelu nastaveným na "uncensored". Tento model odpovídá na legální obsah pro dospělé, fikci a kontroverzní témata bez standardních odmítnutí. Jedná se o model s otevřenými váhami vyladěný pro přímé odpovědi. Nemusíte specifikovat verzi ani se přesouvat mezi různými poskytovateli. Odpověď vrací text v poli content.

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

Tělo žádosti obsahuje váš pole zpráv a volitelné parametry. Naše API ignoruje extra pole gracefulně. Pokud odešlete jednoduchý prompt, získáte přímé dokončení. Použijte to k ověření, že vaše integrace funguje, než přidáte složitou logiku. Model efektivně zpracovává kontext až do 100,000 tokenů.

Povolte streamování a zpracujte využití tokenů

Nastavte stream na true pro přijímání tokenů prostřednictvím Server-Sent Events. Tato metoda snižuje vnímanou latenci pro dlouhé odpovědi. Poslední chunk ve streamu obsahuje kompletní statistiky spotřeby tokenů pro daný požadavek. Tyto metriky můžete logovat pro přesné sledování spotřeby vašich předplacených kreditů. Streamování je ideální pro chat rozhraní a aplikace v reálném čase.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zpracujte částečné odpovědi hromaděním obsahových delta. Naše API zajišťuje, že celkový počet tokenů odpovídá skutečnému využití. Při chybách během streamování vám nejsou účtovány neúplné tokeny. Tato funkce poskytuje plynulejší uživatelskou zkušenost při zachování transparentních nákladů. Stream můžete předčasně ukončit, pokud uživatel přeruší generování.

Používejte volání funkcí a režim JSON

Předložte pole tools pro povolení volání funkcí. Model bude vracet strukturovaná volání nástrojů, když je to vhodné. Můžete také vynutit režim JSON nastavením response_format na json_object. To zaručuje, že výstup je platný JSON, což zjednodušuje parsování ve vaší aplikaci. Obě funkce fungují se syntaxí standardního OpenAI SDK.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Definujte své schéma funkce s názvem, popisem a parametry. API vrací název funkce a argumenty v odpovědi. To umožňuje vašemu kódu vykonávat externí logiku na základě rozhodnutí modelu. Režim JSON je užitečný, když potřebujete přísné datové struktury. Kombinujte tyto funkce pro robustní automatizované pracovní postupy.

Nastavte parametry: teplota, top_p a seed

Upravte teplotu pro řízení náhodnosti. Nižší hodnoty činí odpovědi více deterministickými. Top_p omezuje nucleus sampling na nejpravděpodobnější tokeny. Seed zajišťuje reprodukovatelné výstupy pro ladění. Tyto parametry vám poskytují jemnou kontrolu nad chováním modelu. Použijte je k vyladění rovnováhy mezi kreativitou a přesností.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Nastavte presence_penalty a frequency_penalty pro snížení opakování. Model podporuje všechny standardní parametry OpenAI. Můžete předat sekvenci stop pro zastavení generování na specifických značkách. Tyto ovládací prvky vám pomohou získat přesně požadovaný formát výstupu. Experimentujte s různými kombinacemi a najděte optimální nastavení pro váš případ použití.

Limity, chyby a kontextové okno

Naše API podporuje kontextové okno o velikosti 100 000 tokenů. Maximální výstup na požadavek je 16 000 tokenů, nebo 2 048, pokud vynecháte max_tokens. Máte limit 300 požadavků za minutu a 8 souběžných požadavků na klíč. Tělo požadavku musí být menší než 8 MB. Tyto limity zajišťují férové používání pro všechny předplacené zákazníky.

Zvládněte chyby HTTP 401 ověřením vašeho API klíče. Chyba 402 indikuje nedostatek předplaceného kreditu. Dobijte kryptoměnami pro obnovení služby. Chyba 429 znamená, že jste překročili limit rychlosti. Počkejte chvíli před opakováním. Náš systém nepoužívá prompty pro trénování, čímž zachovává soukromí vašich dat. Chyby a odmítnutí jsou zdarma, takže platíte pouze za úspěšná dokončení.