Tài liệu api Mistral: Những sai lầm phổ biến và cách khắc phục

Lỗi 1: Giả sử ngữ cảnh không giới hạn mà không kiểm tra giới hạn

Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token, nhưng đây không phải là vô hạn. Bạn phải tính toán cả prompt và phần hoàn thành trong tổng số này. Nếu văn bản đầu vào của bạn tiến gần đến 84.000 token, mô hình có thể cắt ngắn hoặc từ chối yêu cầu. Luôn theo dõi việc sử dụng token để duy trì trong giới hạn cứng 100.000 token.

Hãy xem xét việc sử dụng thư viện tokenizer trong mã máy khách của bạn để ước tính số lượng token trước khi gửi yêu cầu. Điều này ngăn ngừa việc lãng phí tín dụng cho các tải trọng bị từ chối. Phát trực tiếp giúp quản lý bộ nhớ, nhưng giới hạn cửa sổ ngữ cảnh vẫn rất nghiêm ngặt.

Lỗi 2: Bỏ qua ràng buộc kích thước thân yêu cầu 8 MB

Thân yêu cầu không được vượt quá 8 MB. Giới hạn này áp dụng cho toàn bộ tải trọng HTTP, bao gồm cấu trúc JSON và siêu dữ liệu. Các tài liệu lớn được gửi dưới dạng base64 hoặc văn bản thô có thể dễ dàng vượt quá ngưỡng này. Hãy chia nhỏ đầu vào của bạn thành các phần nhỏ hơn nếu bạn đang xử lý các tài liệu dài.

• Kiểm tra kích thước tải trọng của bạn trước khi gửi.
• Sử dụng streaming để giảm áp lực bộ nhớ.
• Nén các trường không cần thiết trong JSON của bạn.

Việc bỏ qua ràng buộc này dẫn đến lỗi 413 Payload Too Large. Việc gỡ lỗi vấn đề này thường yêu cầu kiểm tra kích thước thân yêu cầu thô. API của chúng tôi thực thi điều này một cách nghiêm ngặt để duy trì hiệu suất.

Lỗi 3: Đợi kiểm duyệt tiêu chuẩn nơi không tồn tại

Vì mô hình không kiểm duyệt, nó không áp dụng các bộ lọc kiểm duyệt thương mại tiêu chuẩn. Nó sẽ tạo ra nội dung người lớn, gây tranh cãi hoặc hư cấu mà không từ chối. Tuy nhiên, luôn có một giới hạn nội dung cứng: nội dung tình dục liên quan đến trẻ vị thành niên sẽ bị từ chối. Đây là một quy tắc cố định, không phải là cài đặt có thể cấu hình.

Đừng giả sử mô hình sẽ tự kiểm duyệt dựa trên giọng điệu hoặc phong cách. Nó trả lời trực tiếp. Nếu bạn cần kiểm duyệt, hãy triển khai nó ở lớp ứng dụng của riêng bạn. Điều này cho phép bạn kiểm soát hoàn toàn việc lọc nội dung mà không dựa vào nhà cung cấp API.

Lỗi 4: Hiểu sai chu kỳ thanh toán crypto trả trước

Không có phí hàng tháng hoặc đăng ký. Bạn nạp tiền bằng tiền điện tử và tín dụng được tính dựa trên việc sử dụng token thực tế. Lỗi là miễn phí, vì vậy bạn chỉ trả tiền cho các kết thúc thành công. Tín dụng không bao giờ hết hạn, vì vậy bạn có thể nạp thêm bất cứ lúc nào.

Nạp tiền từ $20 đến $500 theo số nguyên. Có ưu đãi: +5% từ $50, +10% từ $100, và +15% từ $200. Thanh toán chỉ chấp nhận qua USDT (TRC20) hoặc USDC (Base). Mô hình này minh bạch và dễ dự đoán.

Lỗi 5: Không sử dụng luồng cho các đoạn hoàn thành dài

Các câu trả lời dài có thể mất đáng kể thời gian. Không có streaming, máy khách của bạn sẽ chờ đợi toàn bộ phản hồi trước khi hiển thị bất kỳ nội dung nào. Điều này dẫn đến trải nghiệm người dùng kém và có thể gây ra lỗi thời gian chờ. Sử dụng Server-Sent Events (SSE) để nhận token khi chúng được tạo.

Streaming cũng giúp quản lý việc sử dụng bộ nhớ ở phía máy khách. Chunk cuối cùng bao gồm chi tiết sử dụng token. Điều này cho phép bạn theo dõi chi phí theo thời gian thực. Điều chỉnh mã máy khách của bạn để xử lý các luồng SSE đúng cách.

Lỗi 6: Quên rằng lỗi miễn phí nhưng được tính khác

Lỗi không tiêu thụ token, vì vậy bạn không phải trả tiền cho chúng. Tuy nhiên, chúng vẫn tính vào giới hạn tốc độ của bạn. Nếu bạn gửi 300 yêu cầu mỗi phút và nhiều yêu cầu bị lỗi, bạn có thể đạt đến giới hạn tốc độ. Điều này chặn các yêu cầu thành công.

Triển khai logic thử lại với backoff theo cấp số nhân. Điều này ngăn chặn việc làm ngập API bằng các yêu cầu thất bại. Theo dõi tỷ lệ lỗi của bạn để tối ưu hóa cấu trúc tải trọng. Lỗi miễn phí là một lợi ích, nhưng giới hạn tốc độ rất nghiêm ngặt.

Lỗi 7: Nhầm lẫn API này với nhà cung cấp Mistral chính thức

Đây là một dịch vụ độc lập. Chúng tôi không phải là nhà cung cấp chính thức của Mistral. Chúng tôi cung cấp một điểm cuối tương thích OpenAI chạy mô hình không kiểm duyệt của riêng chúng tôi. URL cơ sở là HTTPS://api.mistralapidoc.com/v1. Đừng giả định rằng giá cả hoặc giới hạn chính thức của Mistral áp dụng ở đây.

Kiểm tra tài liệu chính thức của Mistral để biết các mô hình và giá cụ thể của họ. API của chúng tôi được thiết kế cho các nhà phát triển muốn có đầu ra không kiểm duyệt với khả năng tương thích SDK tiêu chuẩn. Chúng tôi không cung cấp các mô hình của các nhà cung cấp khác. Mô hình của chúng tôi được tinh chỉnh cho nội dung người lớn và không có bộ lọc tiêu chuẩn.

Tài liệu Mistral API: Danh sách kiểm tra di chuyển

Trước khi di chuyển mã của bạn, hãy xác minh URL cơ bản và khóa API của bạn. Sử dụng các SDK chính thức của OpenAI với điểm cuối của chúng tôi. Đặt định danh mô hình thành "uncensored". Kiểm thử với các tải trọng nhỏ trước. Đảm bảo client của bạn xử lý các luồng SSE một cách chính xác.

• Cập nhật base_url sang điểm cuối của chúng tôi.
• Đặt model là "uncensored".
• Triển khai streaming cho các đầu ra dài.
• Theo dõi việc sử dụng token và lỗi.

Danh sách kiểm tra này đảm bảo quá trình chuyển đổi diễn ra mượt mà. API của chúng tôi tương thích với các máy khách OpenAI tiêu chuẩn. Không bị khóa nhà cung cấp. Chỉ cần thay đổi URL cơ sở và khóa. Hãy bắt đầu với tín dụng dùng thử để xác minh chức năng.