Dokumentacja API Mistral: Przewodnik Szybkiego Startu

Zainstaluj SDK i ustaw swój bazowy adres URL

Zacznij od zainstalowania oficjalnego pakietu SDK dla Twojego języka i wskazania go na nasz punkt końcowy. Bazowy URL to HTTPS://api.mistralapidoc.com/v1. Ta pojedyncza zmiana kieruje wszystkie wywołania do naszej infrastruktury bez cenzury bez zmiany istniejącej logiki. Możesz użyć dowolnego standardowego klienta obsługującego kompatybilność z OpenAI. Konfiguracja zajmuje kilka sekund i nie wymaga złożonych plików konfiguracyjnych.

Upewnij się, że przekażesz swój unikalny klucz API w nagłówku Authorization. Nasz system weryfikuje ten klucz względem Twojego salda prepaid przed przetworzeniem jakichkolwiek tokenów. To podejście zapewnia, że płacisz tylko za to, czego używasz. Chroń swój klucz i zmieniaj go, jeśli podejrzewasz jego ujawnienie. Klucz jest wydawany natychmiast po rejestracji poprzez Google lub e-mail.

Wykonaj pierwsze żądanie do modelu uncensored

Wyślij żądanie POST do /v1/chat/completions z ustawionym identyfikatorem modelu "uncensored". Model odpowiada na treść dla dorosłych, fikcję i tematy kontrowersyjne bez standardowych odmów. Jest to model o otwartych wagach dostrojony do bezpośrednich odpowiedzi. Nie musisz podawać numeru wersji ani wybierać między różnymi dostawcami. Odpowiedź zwraca tekst w polu content.

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

Treść żądania zawiera Twoją tablicę wiadomości i opcjonalne parametry. Nasze API ignoruje dodatkowe pola w sposób zgrany. Jeśli wyślesz prosty prompt, otrzymasz bezpośrednie uzupełnienie. Użyj tego, aby zweryfikować, czy Twoja integracja działa, przed dodaniem złożonej logiki. Model obsługuje kontekst do 100,000 tokenów wydajnie.

Włącz strumieniowanie i obsłuż zużycie tokenów

Ustaw stream na true, aby otrzymywać tokeny poprzez zdarzenia Server-Sent. Ta metoda zmniejsza postrzeganą latencję dla długich odpowiedzi. Ostatni fragment strumienia zawiera pełne statystyki zużycia tokenów dla tego żądania. Możesz logować te metryki, aby dokładnie śledzić zużycie kredytu prepaid. Strumieniowanie jest idealne dla interfejsów czatu i aplikacji w czasie rzeczywistym.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Obsłuż częściowe odpowiedzi, akumulując delta treści. Nasze API zapewnia, że całkowita liczba tokenów odpowiada rzeczywistemu zużyciu. Błędy podczas strumieniowania nie obciążają Cię za niekompletne tokeny. Funkcja ta zapewnia płynne doświadczenie użytkownika, zachowując przejrzystość kosztów. Możesz przerwać strumień wcześniej, jeśli użytkownik przerwie generowanie.

Używaj wywoływania funkcji i trybu JSON

Przekaż tablicę tools, aby włączyć wywoływanie funkcji. Model będzie generował ustrukturyzowane wywołania narzędzi, gdy będzie to odpowiednie. Możesz również wymusić tryb JSON, ustawiając response_format na json_object. Gwarantuje to, że wyjście jest poprawnym JSON, co upraszcza parsowanie w Twojej aplikacji. Obie funkcje działają ze standardową składnią SDK OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Zdefiniuj schemat swojej funkcji z nazwą, opisem i parametrami. API zwraca nazwę funkcji i argumenty w odpowiedzi. Pozwala to Twojemu kodowi na wykonanie logiki zewnętrznej na podstawie decyzji modelu. Tryb JSON jest przydatny, gdy potrzebujesz ścisłych struktur danych. Połącz te funkcje, aby uzyskać solidne, zautomatyzowane przepływy pracy.

Skonfiguruj parametry: temperatura, top_p i seed

Dostosuj temperaturę, aby kontrolować losowość. Niższe wartości sprawiają, że odpowiedzi są bardziej deterministyczne. Top_p ogranicza próbkowanie jądra do najbardziej prawdopodobnych tokenów. Seed zapewnia powtarzalne wyniki przy debugowaniu. Parametry te dają Ci szczegółową kontrolę nad zachowaniem modelu. Używaj ich, aby dostosować balans między kreatywnością a dokładnością.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ustaw presence_penalty i frequency_penalty, aby zmniejszyć powtarzalność. Model obsługuje wszystkie standardowe parametry OpenAI. Możesz przekazać sekwencję stop, aby zatrzymać generowanie w określonych markerach. Te kontrolki pomagają uzyskać dokładnie wymagany format wyjścia. Eksperymentuj z różnymi kombinacjami, aby znaleźć optymalne ustawienia dla Twojego przypadku użycia.

Limity, błędy i okno kontekstu

Nasz API obsługuje okno kontekstowe o rozmiarze 100 000 tokenów. Maksymalna liczba tokenów wyjściowych na żądanie wynosi 16 000, lub 2 048, jeśli pominiesz parametr max_tokens. Limit to 300 żądań na minutę i 8 żądań równoległych na klucz. Ciało żądania musi mieścić się w 8 MB. Limity te zapewniają sprawiedliwe wykorzystanie zasobów przez wszystkich klientów z płatnością z góry.

Obsłuż błędy HTTP 401, weryfikując swój klucz API. Błąd 402 wskazuje na niewystarczające środki na koncie. Doładuj kryptowalutami, aby wznowić usługę. Błąd 429 oznacza, że przekroczyłeś limit szybkości. Poczekaj chwilę przed ponowną próbą. Nasz system nie wykorzystuje promptów do trenowania, zachowując prywatność Twoich danych. Błędy i odrzucenia są darmowe, więc płacisz tylko za udane odpowiedzi.