ms ▾

Dokumen API Mistral: Panduan Permulaan Pantas

Migrasi kod sedia ada anda ke LLM tanpa sensor kami dengan menukar URL asas dan kunci API. Dokumen API mistral ini membimbing anda melalui langkah tepat untuk mula menghantar permintaan tanpa kunci vendor.

Pasang SDK dan tetapkan URL asas anda

Mula dengan memasang SDK rasmi untuk bahasa anda dan arahkan ia ke hujung kami. URL asas ialah HTTPS://api.mistralapidoc.com/v1. Perubahan tunggal ini mengarahkan semua panggilan ke infrastruktur tanpa sensor kami tanpa mengubah logik sedia ada anda. Anda boleh menggunakan mana-mana klien piawai yang menyokong keserasian OpenAI. Sediaan ini mengambil masa beberapa saat dan tidak memerlukan fail konfigurasi yang kompleks.

Pastikan anda lulus kunci API unik anda dalam header Authorization. Sistem kami mengesahkan kunci ini terhadap baki pra-dibayar anda sebelum memproses mana-mana token. Pendekatan ini memastikan anda hanya membayar untuk apa yang anda gunakan. Simpan kunci anda dengan selamat dan putar jika anda mengesyaki pendedahan. Kunci dikeluarkan serta-merta selepas mendaftar melalui Google atau e-mel.

Buat permintaan pertama anda ke model uncensored

Hantar permintaan POST ke /v1/chat/completions dengan ID model ditetapkan kepada "uncensored". Model ini memberi respons kepada kandungan dewasa yang sah, fiksyen, dan topik kontroversi tanpa penolakan standard. Ia adalah model berat terbuka yang ditala untuk jawapan langsung. Anda tidak perlu menentukan nombor versi atau laluan antara pembekal yang berbeza. Respons mengembalikan teks dalam medan content.

curl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

Badan permintaan termasuk array mesej anda dan parameter pilihan. API kami mengabaikan medan tambahan dengan baik. Jika anda menghantar arahan mudah, anda menerima penyelesaian langsung. Gunakan ini untuk mengesahkan integrasi anda berfungsi sebelum menambah logik kompleks. Model mengendalikan konteks sehingga 100,000 token dengan cekap.

Aktifkan aliran dan kendalikan penggunaan token

Tetapkan stream kepada true untuk menerima token melalui Acara yang Dihantar Pelayan. Kaedah ini mengurangkan latensi yang dirasakan bagi respons yang panjang. Potongan akhir dalam aliran mengandungi statistik penggunaan token lengkap untuk permintaan tersebut. Anda boleh log metrik ini untuk menjejak penggunaan kredit prabayar anda dengan tepat. Streaming sesuai untuk antara muka sembang dan aplikasi masa nyata.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tangani respons separa dengan mengumpulkan delta kandungan. API kami memastikan jumlah token keseluruhan sepadan dengan penggunaan sebenar. Ralat semasa penstriman tidak akan menelan anda untuk token yang tidak lengkap. Ciri ini memberikan pengalaman pengguna yang lancar sambil mengekalkan ketelusan kos. Anda boleh menghentikan penstriman awal jika pengguna mengganggu penjanaan.

Gunakan panggilan fungsi dan mod JSON

Luluskan larik tools untuk mengaktifkan panggilan fungsi. Model akan mengeluarkan panggilan alat terstruktur apabila sesuai. Anda juga boleh memaksakan mod JSON dengan menetapkan response_format kepada json_object. Ini menjamin output adalah JSON yang sah, yang memudahkan parsing dalam aplikasi anda. Kedua-dua ciri ini berfungsi dengan sintaks SDK OpenAI standard.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Takrifkan skema fungsi anda dengan nama, penerangan, dan parameter. API mengembalikan nama fungsi dan hujah dalam respons. Ini membolehkan kod anda melaksanakan logik luaran berdasarkan keputusan model. Mod JSON berguna apabila anda memerlukan struktur data yang ketat. Gabungkan ciri-ciri ini untuk aliran kerja automatik yang kukuh.

Konfigurasi parameter: suhu, top_p, dan benih

Laraskan suhu untuk mengawal keacakan. Nilai yang lebih rendah menjadikan respons lebih deterministik. Top_p membatasi pensampelan nukleus kepada token yang paling berkemungkinan. Seed memastikan output yang boleh diulang untuk tujuan nyahpepijahan. Parameter-parameter ini memberikan anda kawalan halus ke atas tingkah laku model. Gunakan parameter ini untuk menala keseimbangan antara kreativiti dan ketepatan.

from openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tetapkan presence_penalty dan frequency_penalty untuk mengurangkan pengulangan. Model menyokong semua parameter standard OpenAI. Anda boleh menghantar jujukan stop untuk menghentikan penjanaan pada penanda tertentu. Kawalan ini membantu anda mendapatkan format output yang tepat mengikut keperluan anda. Eksperimen dengan gabungan berbeza untuk mencari tetapan optimum untuk kes penggunaan anda.

Had, ralat, dan tetingkap konteks

API kami menyokong tetingkap konteks 100,000 token. Output maksimum setiap permintaan ialah 16,000 token, atau 2,048 jika anda tidak menetapkan max_tokens. Anda terhad kepada 300 permintaan setiap minit dan 8 permintaan serentak setiap kunci. Badan permintaan mesti kekal di bawah 8 MB. Had ini memastikan penggunaan yang adil untuk semua pelanggan pra-bayar.

Tangani ralat HTTP 401 dengan mengesahkan kunci API anda. Ralat 402 menunjukkan kredit pra-bayar tidak mencukupi. Tambah dengan crypto untuk meneruskan perkhidmatan. Ralat 429 bermaksud anda telah melebihi had kadar. Tunggu sebentar sebelum cuba semula. Sistem kami tidak menggunakan prompt untuk latihan, mengekalkan privasi data anda. Ralat dan penolakan adalah percuma, jadi anda hanya membayar untuk penyelesaian berjaya.

Soalan biasa

Adakah ini API Mistral rasmi?

Tidak, ini ialah perkhidmatan bebas yang menempatkan model tanpa sensor. Kami menggunakan protokol sepadan OpenAI tetapi menjalankan infrastruktur kami sendiri. Semak dokumentasi vendor untuk butiran khusus mereka.

Apa yang berlaku jika saya mendapat ralat 402?

Ralat 402 bermaksud baki prabayar anda telah habis. Anda boleh menambah nilai dengan USDT atau USDC untuk menambah kredit. Kredit sedia ada anda tidak luput, jadi anda boleh menambah lebih bila-bila masa anda mahu.

Adakah API ini menyokong penjanaan imej?

Tidak, kami hanya menyediakan penyelesaian teks melalui /v1/chat/completions. Kami tidak menawarkan embedding, penjanaan imej, audio, atau video. Fokus pada respons teks berkualiti tinggi dengan model tanpa sensor kami.

Kunci API anda menunggu

Daftar, dapatkan kunci anda, kemas kini URL asas anda. Itu sahaja.

Cuba dengan kredit percubaan