Tài liệu api Mistral: Hướng dẫn bắt đầu nhanh

Cài đặt SDK và đặt URL cơ sở của bạn

Bắt đầu bằng cách cài đặt SDK chính thức cho ngôn ngữ của bạn và trỏ nó vào điểm cuối của chúng tôi. URL cơ sở là HTTPS://api.mistralapidoc.com/v1. Thay đổi đơn lẻ này định tuyến tất cả các lệnh gọi đến cơ sở hạ tầng không kiểm duyệt của chúng tôi mà không làm thay đổi logic hiện có của bạn. Bạn có thể sử dụng bất kỳ máy khách tiêu chuẩn nào hỗ trợ tương thích OpenAI. Quy trình thiết lập mất vài giây và không yêu cầu các tệp cấu hình phức tạp.

Đảm bảo bạn truyền API key độc nhất của mình trong header Authorization. Hệ thống của chúng tôi xác thực khóa này với số dư trả trước của bạn trước khi xử lý bất kỳ token nào. Cách tiếp cận này đảm bảo bạn chỉ trả tiền cho những gì bạn sử dụng. Giữ khóa của bạn an toàn và xoay vòng nếu bạn nghi ngờ bị lộ. Khóa được cấp ngay lập tức khi đăng ký qua Google hoặc email.

Thực hiện yêu cầu đầu tiên đến mô hình uncensored

Gửi yêu cầu POST đến /v1/chat/completions với model ID được đặt thành "uncensored". Mô hình này phản hồi với nội dung người trưởng thành hợp pháp, truyện hư cấu và các chủ đề gây tranh cãi mà không có các lệnh từ chối tiêu chuẩn. Đây là một mô hình trọng lượng mở được tinh chỉnh để trả lời trực tiếp. Bạn không cần chỉ định số phiên bản hoặc chuyển đổi giữa các nhà cung cấp khác nhau. Phản hồi trả về văn bản trong trường content.

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

Thân yêu cầu bao gồm mảng tin nhắn của bạn và các tham số tùy chọn. API của chúng tôi bỏ qua các trường bổ sung một cách nhẹ nhàng. Nếu bạn gửi một prompt đơn giản, bạn sẽ nhận được một bản hoàn thành trực tiếp. Hãy sử dụng điều này để xác minh tích hợp của bạn hoạt động trước khi thêm logic phức tạp. Mô hình xử lý ngữ cảnh lên đến 100,000 token một cách hiệu quả.

Bật phát trực tiếp và xử lý việc sử dụng token

Đặt stream là true để nhận token thông qua các Sự kiện được gửi bởi máy chủ. Phương pháp này giảm độ trễ cảm nhận được đối với các phản hồi dài. Chunk cuối cùng trong luồng chứa thống kê sử dụng token đầy đủ cho yêu cầu đó. Bạn có thể ghi lại các số liệu này để theo dõi việc tiêu thụ tín dụng trả trước của bạn một cách chính xác. Streaming rất lý tưởng cho các giao diện trò chuyện và ứng dụng thời gian thực.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý phản hồi từng phần bằng cách tích lũy các đoạn nội dung. API của chúng tôi đảm bảo tổng số token khớp với mức sử dụng thực tế. Lỗi trong quá trình phát trực tiếp sẽ không tính phí bạn cho các token chưa hoàn tất. Tính năng này mang lại trải nghiệm người dùng mượt mà trong khi vẫn giữ chi phí minh bạch. Bạn có thể dừng luồng sớm nếu người dùng ngắt quá trình tạo.

Sử dụng gọi hàm và chế độ JSON

Định nghĩa mảng tools để kích hoạt gọi hàm. Mô hình sẽ xuất các lệnh công cụ có cấu trúc khi phù hợp. Bạn cũng có thể buộc chế độ JSON bằng cách đặt response_format thành json_object. Điều này đảm bảo đầu ra là JSON hợp lệ, giúp đơn giản hóa việc phân tích trong ứng dụng của bạn. Cả hai tính năng đều hoạt động với cú pháp SDK OpenAI tiêu chuẩn.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Xác định lược đồ hàm của bạn với tên, mô tả và tham số. API trả về tên hàm và các đối số trong phản hồi. Điều này cho phép mã của bạn thực thi logic bên ngoài dựa trên quyết định của mô hình. Chế độ JSON hữu ích khi bạn cần các cấu trúc dữ liệu nghiêm ngặt. Kết hợp các tính năng này cho các quy trình làm việc tự động mạnh mẽ.

Cấu hình các tham số: nhiệt độ, top_p và seed

Điều chỉnh nhiệt độ để kiểm soát tính ngẫu nhiên. Giá trị thấp hơn làm cho phản hồi mang tính xác định hơn. Top_p giới hạn việc lấy mẫu hạt nhân vào các token có khả năng cao nhất. Seed đảm bảo đầu ra có thể tái lập để gỡ lỗi. Các tham số này cho phép bạn kiểm soát chính xác hành vi của mô hình. Sử dụng chúng để điều chỉnh sự cân bằng giữa sáng tạo và độ chính xác.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Đặt presence_penalty và frequency_penalty để giảm sự lặp lại. Mô hình hỗ trợ tất cả các tham số chuẩn của OpenAI. Bạn có thể truyền một chuỗi stop để dừng quá trình tạo tại các dấu hiệu cụ thể. Những kiểm soát này giúp bạn nhận được định dạng đầu ra chính xác mà bạn cần. Hãy thử nghiệm với các tổ hợp khác nhau để tìm cài đặt tối ưu cho trường hợp sử dụng của bạn.

Giới hạn, lỗi và cửa sổ ngữ cảnh

API của chúng tôi hỗ trợ cửa sổ ngữ cảnh 100.000 token. Lượng đầu ra tối đa cho mỗi yêu cầu là 16.000 token, hoặc 2.048 nếu bạn không đặt max_tokens. Bạn bị giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Thân yêu cầu phải dưới 8 MB. Các giới hạn này đảm bảo sử dụng công bằng cho tất cả khách hàng trả trước.

Xử lý lỗi HTTP 401 bằng cách xác minh khóa API của bạn. Lỗi 402 cho biết số dư tiền nạp trước không đủ. Nạp tiền bằng crypto để tiếp tục dịch vụ. Lỗi 429 nghĩa là bạn đã vượt quá giới hạn tốc độ. Hãy đợi một lúc trước khi thử lại. Hệ thống của chúng tôi không sử dụng prompt để huấn luyện, bảo vệ quyền riêng tư dữ liệu của bạn. Lỗi và từ chối đều miễn phí, vì vậy bạn chỉ trả tiền cho các kết quả thành công.