Mistral api doc:常见错误及修复
开发者通常认为无审查 API 的行为与主要供应商完全相同,这会导致上下文处理、请求体大小和计费方面的意外错误。本指南澄清了我们 OpenAI 兼容端点的具体限制,以便你可以无缝迁移代码。
最后更新时间
错误 1:假设上下文无限而未检查限制
该模型支持 100,000 token 的上下文窗口,但这并非无限。您必须在此总数中同时计算提示词和补全。如果您的输入文本接近 84,000 个 token,模型可能会截断或拒绝请求。请始终监控 token 使用情况,以保持在 100,000 token 的硬性限制内。
考虑在客户端代码中使用分词器库来估算发送请求前的令牌数量。这可以防止因无效负载而浪费信用额。流式传输有助于管理内存,但上下文窗口限制仍然严格。
错误 2:忽视 8 MB 请求体约束
每次请求体不能超过 8 MB。此限制适用于整个 HTTP 负载,包括 JSON 结构和元数据。作为 base64 或原始文本发送的大文档很容易超过此阈值。如果您正在处理长文档,请将输入拆分为较小的块。
- 发送前检查您的负载大小。
- 使用流式传输以减少内存压力。
- 压缩 JSON 中的不必要字段。
忽略此约束会导致 413 Payload Too Large 错误。调试此问题通常需要检查原始请求体大小。我们的 API 严格执行此限制以保持性能。
错误 3:期望在不存在的地方应用标准审核
由于该模型为无审查模型,因此不应用标准的商业内容审核过滤器。它将生成成人、争议性或虚构内容,且不会拒绝。但是,始终适用硬性内容限制:涉及未成年人的性内容将被拒绝。这是一条固定规则,而非可配置设置。
不要假设模型会根据语气或风格进行自我审查。它直接回答。如果你需要审核,请在自己的应用程序层实现它。这让你完全控制内容过滤,而不依赖 API 提供商。
错误 4:误解预付加密计费周期
无月度费用或订阅。您通过加密货币充值,信用额度按实际标记使用量扣除。错误免费,因此您只为成功的完成付费。信用额度永不过期,因此您可以随时充值。
充值金额范围为 $20 至 $500,以整数金额充值。享有额外奖励:充值 $50 起享 +5%,充值 $100 起享 +10%,充值 $200 起享 +15%。仅支持通过 USDT (TRC20) 或 USDC (Base) 进行支付。该模式透明且可预测。
错误 5:未对长补全使用流式传输
长补全可能需要大量时间。如果不使用流式传输,您的客户端将等待整个响应完成后再显示任何内容。这会导致用户体验差和潜在的超时。使用服务器发送事件 (SSE) 在令牌生成时接收它们。
流式传输还有助于管理客户端的内存使用。最后一个块包括 token 使用详细信息。这使您可以实时跟踪成本。调整您的客户端代码以正确处理 SSE 流。
错误 6:忘记错误虽免费但计数方式不同
错误不消耗令牌,因此您无需为此付费。但是,它们仍会计入您的速率限制。如果您每分钟发送 300 个请求且许多失败,您可能会达到速率限制。这将阻止成功的请求。
使用指数退避实现重试逻辑。这防止用失败的请求淹没 API。监控您的错误率以优化您的有效负载结构。免费错误是一种好处,但速率限制很严格。
错误 7:混淆本 API 与官方 Mistral 提供商
这是一项独立服务。我们不是官方的 Mistral 提供商。我们提供运行我们自己无审查模型的 OpenAI 兼容端点。base URL 为 HTTPS://api.mistralapidoc.com/v1。不要假设官方的 Mistral 定价或限制适用于此处。
查看官方 Mistral 文档以获取其特定模型和价格信息。我们的 API 专为希望获得无审查输出且具备标准 SDK 兼容性的开发者设计。我们不提供其他厂商的模型。我们的模型针对成人内容进行了调整,且缺乏标准的内容审核。
Mistral API 文档:迁移检查清单
在迁移代码之前,请验证您的基础 URL 和 API 密钥。使用官方 OpenAI SDK 连接到我们的端点。将模型 ID 设置为 "uncensored"。首先使用小负载进行测试。确保您的客户端正确处理 SSE 流。
- 将 base_url 更新为我们的端点。
- 将模型设置为 "uncensored"。
- 为长输出实现流式传输。
- 监控令牌用量和错误。
此清单确保平稳过渡。我们的 API 与标准 OpenAI 客户端兼容。无供应商锁定。只需更改基础 URL 和密钥。使用试用额度开始验证功能。
常见问题
这是官方的 Mistral API 吗?
否。这是一个独立服务,提供 OpenAI 兼容的端点。我们运行自己的无审查模型,而不是官方的 Mistral 模型。请查阅 Mistral 官方文档以获取其特定定价和限制。
我如何为 API 付费?
我们仅接受加密货币:USDT (TRC20) 或 USDC (Base)。充值范围为 $20 至 $500。大额充值适用奖金。
无限制模型会拒绝成人内容吗?
不,它不会拒绝合法的成人内容。然而,它对涉及未成年人的性内容有硬性限制。此拒绝机制始终处于激活状态。
上下文窗口限制是多少?
该模型支持 100,000 个 token 的提示词和补全总和。每次请求的最大输出为 16,000 个 token。错误不会消耗 token。