Dokumen API Mistral: Kesilapan Umum dan Penyelesaian

Kesilapan 1: Menganggap konteks tanpa had tanpa menyemak had

Model ini menyokong tetingkap konteks 100,000-token, tetapi ini bukan tanpa had. Anda mesti mengambil kira kedua-dua prompt dan penyelesaian dalam jumlah ini. Jika teks input anda menghampiri 84,000 token, model mungkin akan memotong atau menolak permintaan. Sentiasa memantau penggunaan token untuk kekal dalam had keras 100,000-token.

Pertimbangkan menggunakan perpustakaan tokenizer dalam kod klien anda untuk menganggarkan kiraan token sebelum menghantar permintaan. Ini mencegah pembaziran kredit pada payload yang ditolak. Aliran membantu mengurus memori, tetapi had tetingkap konteks kekal ketat.

Kesilapan 2: Mengabaikan kekangan badan permintaan 8 MB

Setiap badan permintaan tidak boleh melebihi 8 MB. Had ini terpakai kepada keseluruhan payload HTTP, termasuk struktur JSON dan metadata. Dokumen besar yang dihantar sebagai base64 atau teks mentah boleh mudah melanggar ambang ini. Bahagikan input anda kepada bahagian yang lebih kecil jika anda memproses dokumen panjang.

• Semak saiz beban anda sebelum menghantar.
• Gunakan penstriman untuk mengurangkan tekanan memori.
• Mampatkan medan yang tidak perlu dalam JSON anda.

Mengabaikan kekangan ini menghasilkan ralat 413 Payload Too Large. Menyahpepijat isu ini sering memerlukan pemeriksaan saiz badan permintaan mentah. API kami melaksanakan ini dengan ketat untuk mengekalkan prestasi.

Kesilapan 3: Menjangka pengendalian standard di mana tiada wujud

Oleh kerana model ini tidak disensor, ia tidak menerapkan penapis moderasi komersial piawai. Ia akan menjana kandungan dewasa, kontroversi, atau fiksyen tanpa penolakan. Walau bagaimanapun, had kandungan keras sentiasa terpakai: kandungan seksual melibatkan kanak-kanak akan ditolak. Ini adalah peraturan tetap, bukan tetapan yang boleh dikonfigurasi.

Jangan anda anggap model akan menyensor diri berdasarkan nada atau gaya. Ia menjawab secara langsung. Jika anda memerlukan pentadbiran, laksanakan ia di lapisan aplikasi anda sendiri. Ini memberi anda kawalan penuh ke atas penapisan kandungan tanpa bergantung kepada penyedia API.

Kesilapan 4: Memahami kitaran bil crypto pra-dibayar secara salah

Tiada yuran bulanan atau langganan. Anda menambah baki dengan crypto, dan kredit dikenakan berdasarkan penggunaan token sebenar. Ralat adalah percuma, jadi anda hanya membayar untuk penyelesaian berjaya. Kredit tidak luput, jadi anda boleh menambah baki pada bila-bila masa.

Top-up bermula dari $20 hingga $500 dalam jumlah bulat. Bonus terpakai: +5% dari $50, +10% dari $100, dan +15% dari $200. Pembayaran hanya diterima melalui USDT (TRC20) atau USDC (Base). Model ini telusur dan boleh diramal.

Kesilapan 5: Tidak menggunakan aliran untuk penyelesaian panjang

Penyelesaian panjang boleh mengambil masa yang signifikan. Tanpa penstriman, klien anda menunggu keseluruhan respons sebelum memaparkan apa-apa. Ini membawa kepada pengalaman pengguna yang lemah dan potensi masa tamat. Gunakan Acara Dihantar Pelayan (SSE) untuk menerima token apabila mereka dijana.

Streaming juga membantu menguruskan penggunaan memori di sisi klien. Bahagian terakhir termasuk butiran penggunaan token. Ini membolehkan anda mengesan kos secara masa nyata. Laraskan kod klien anda untuk menangani aliran SSE dengan betul.

Kesilapan 6: Melupakan bahawa ralat adalah percuma tetapi dikira secara berbeza

Ralat tidak menggunakan token, jadi anda tidak membayar untuknya. Walau bagaimanapun, ia masih dikira terhadap had kadar anda. Jika anda menghantar 300 permintaan seminit dan banyak gagal, anda mungkin mencapai had kadar. Ini menyekat permintaan berjaya.

Laksanakan logik cuba semula dengan penangguhan eksponen. Ini mencegah membanjiri API dengan permintaan gagal. Pantau kadar ralat anda untuk mengoptimumkan struktur payload anda. Ralent percuma adalah faedah, tetapi had kadar adalah ketat.

Kesilapan 7: Membingungkan API ini dengan penyedia Mistral rasmi

Ini adalah perkhidmatan bebas. Kami bukan penyedia Mistral rasmi. Kami menawarkan titik akhir yang serasi dengan OpenAI yang menjalankan model tanpa sensor kami sendiri. URL asas ialah HTTPS://api.mistralapidoc.com/v1. Jangan anda anggap harga atau had Mistral rasmi terpakai di sini.

Semak dokumentasi rasmi Mistral untuk model dan harga khusus mereka. API kami direka untuk pembangun yang mahu output tanpa sensor dengan serasi SDK piawai. Kami tidak melayani model vendor lain. Model kami disesuaikan untuk kandungan dewasa dan tiada penyaringan piawai.

Dokumen API Mistral: Senarai Semal Migrasi

Sebelum memindahkan kod anda, pastikan URL asas dan kunci API anda. Gunakan SDK rasmi OpenAI dengan hujung kami. Tetapkan ID model ke "uncensored". Uji dengan beban kecil dahulu. Pastikan klien anda mengendalikan aliran SSE dengan betul.

• Kemas kini base_url ke hujung kami.
• Tetapkan model kepada "uncensored".
• Laksanakan penstriman untuk output panjang.
• Pantau penggunaan token dan ralat.

Senarai semak ini memastikan peralihan yang lancar. API kami serasi dengan klien OpenAI piawai. Tiada kunci vendor. Hanya ubah URL asas dan kunci. Mula dengan kredit percubaan untuk mengesahkan fungsi.