Mistral api -dokumentaatio: Pika-aloitusopas

Asenna SDK ja aseta base URL:si

Aloita asentamalla virallinen SDK kielellesi ja osoita se päätepisteeseemme. Perus-URL on HTTPS://api.mistralapidoc.com/v1. Tämä yksittäinen muutos ohjaa kaikki kutsut tuotannon ulkopuoliseen infrastruktuuriimme muuttamatta olemassa olevaa logiikkaasi. Voit käyttää mitä tahansa vakiokäyttöliittymää, joka tukee OpenAI-yhteensopivuutta. Asennus kestää sekunteja eikä vaadi monimutkaisia konfiguraatiotiedostoja.

Varmista, että syötät ainutlaatuisen API-avaimesi Authorization-otsikkoon. Järjestelmämme validoi tämän avaimen esimaksusalosi perusteella ennen tokenien käsittelyä. Tämä varmistaa, että maksat vain käytetyistä tokenneista. Pidä avain turvassa ja vaihda se, jos epäilet sen joutuneen vartioimattomaksi. Avain myönnetään välittömästi rekisteröitymisen jälkeen Google- tai sähköpostin kautta.

Tee ensimmäinen pyyntösi uncensored-malliin

Lähetä POST-pyyntö osoitteeseen /v1/chat/completions asettamalla mallitunnukseksi "uncensored". Tämä malli vastaa lailliseen aikuisille suunnattuun sisältöön, fiktiiviseen sisältöön ja kiistanalaisiin aiheisiin ilman yleisiä kieltoja. Se on avoin malli, joka on hienosäädetty suoriin vastauksiin. Sinun ei tarvitse määrittää versionumeroa tai valita eri toimittajien välillä. Vastaus palauttaa tekstin content-kentässä.

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

Pyyntöruumis sisältää viestijonosi ja valinnaiset parametrit. API-rajapintamme jättää ylimääräiset kentät huomiotta sujuvasti. Jos lähetät yksinkertaisen kehotteen, saat suoraviivaisen täydennyksen. Käytä tätä varmistaaksesi, että integraatio toimii ennen monimutkaisemman logiikan lisäämistä. Malli käsittelee kontekstin tehokkaasti jopa 100 000 tokeniin asti.

Ota käyttöön streamaus ja käsittele token-käyttöä

Aseta stream arvoksi true saadaksesi tokenit Server-Sent Events -streamina. Tämä menetelmä vähentää havaittua viivettä pitkissä vastauksissa. Streamin lopullinen chunk sisältää täydet token-käystilastot kyseiselle pyynnölle. Voit lokittaa nämä mittarit seurataksesi esimaksutodien kulutusta tarkasti. Streamaus on ihanteellinen keskusteluliittymiin ja reaaliaikaisiin sovelluksiin.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Käsittele osittaiset vastaujat kertymällä sisällön deltaa. API-varmistaa, että tokenien kokonaismäärä vastaa todellista käyttöä. Virheet streamauksen aikana eivät veloita sinulta epätäydellisiä tokenia. Tämä ominaisuus tarjoaa sujuvan käyttökokemuksen ja pitää kustannukset läpinäkyvinä. Voit keskeyttää streamauksen ennenaikaisesti, jos käyttäjä keskeyttää luonnin.

Käytä funktiokutsuja ja JSON-tilaa

Välitä tools-taulukko funktion kutsumisen mahdollistamiseksi. Malli tuottaa rakenteisia työkalukutsuja, kun se on paikallaan. Voit myös pakottaa JSON-tilan asettamalla response_format arvoksi json_object. Tämä takistaa, että tuloste on kelvollista JSONia, mikä yksinkertaistaa jäsennystä sovelluksessasi. Molemmat ominaisuudet toimivat standardin OpenAI SDK -syntaksin kanssa.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Määrittele funktioskeemasi nimellä, kuvauksella ja parametreilla. API palauttaa funktion nimen ja argumentit vastauksessa. Tämä mahdollistaa koodisi suorittaa ulkoista logiikkaa mallin päätöksen perusteella. JSON-tila on hyödyllinen, kun tarvitset tiukkoja datastruktuuria. Yhdistä nämä ominaisuudet vahvojen, automatisoitujen työvuorojen luomiseen.

Määritä parametrit: lämpötila, top_p ja siemenarvo

Säädä temperature-arvoa hallitaksesi satunnaisuutta. Alhaisemmat arvot tekevät vastauksista deterministisempiä. Top_p rajoittaa ydinnäytteen korkeimman todennäköisyyden omaaviksi tokenneiksi. Seed varmistaa toistettavat tulokset virheenkorjausta varten. Nämä parametrit antavat hienojen säätömahdollisuuksien mallin käyttäytymiselle. Käytä niitä säätääksesi luovuuden ja tarkkuuden välistä tasapainoa.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Aseta presence_penalty ja frequency_penalty vähentääksesi toistoa. Malli tukee kaikkia OpenAI-standardiparametreja. Voit välittää stop-sekvenssin pysäyttääksesi tuotannon tietyissä kohdissa. Nämä hallintatoimet auttavat saamaan tarvitsemasi tuotantomuodon. Kokeile eri yhdistelmiä löytääksesi optimaaliset asetukset käyttötapaukseesi.

Rajoitukset, virheet ja kontekstiikkuna

API-tukemme tukee 100 000 merkin kontekstiikkunaa. Pyyntökohtainen enimmäistuotos on 16 000 merkkiä tai 2 048, jos jätät max_tokens-asetuksen pois. Sinulla on enintään 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä per avain. Pyyntöruumiin koon on pysyttävä alle 8 Mt:n. Nämä rajat varmistavat reilun käytön kaikille esimaksullisille asiakkaille.

Käsittele HTTP 401-virheet vahvistamalla API-avaimesi. 402-virhe tarkoittaa riittämätöntä esimaksusaltoa. Täytä saldo kryptorahalla jatkaaksesi palvelun käyttöä. 429-virhe tarkoittaa, että olet ylittänyt nopeusrajoituksen. Odota hetki ennen uudelleenyritystä. Järjestelmämme ei käytä prompteja koulutukseen, mikä säilyttää tietosuojasi. Virheet ja hylkäykset ovat ilmaisia, joten maksat vain onnistuneista vastauksista.