Документация Mistral api: Распространенные ошибки и их исправление

Ошибка 1: Предположение о неограниченном контексте без проверки лимитов

Модель поддерживает контекстное окно объёмом 100,000 токенов, но это не бесконечный лимит. Вы должны учитывать как промпт, так и завершение в общей сумме. Если объём входного текста приближается к 84,000 токенов, модель может усечь или отклонить запрос. Всегда отслеживайте использование токенов, чтобы оставаться в пределах жёсткого лимита в 100,000 токенов.

Рассмотрите использование библиотеки токенизации в клиентском коде для оценки количества токенов перед отправкой запросов. Это предотвращает потерю кредитов из-за отклонённых полезной нагрузки. Потоковая передача помогает управлять памятью, но ограничение контекстного окна остаётся строгим.

Ошибка 2: Игнорирование ограничения размера тела запроса в 8 МБ

Тело каждого запроса не должно превышать 8 МБ. Этот лимит применяется ко всему HTTP-пэйлоаду, включая структуру JSON и метаданные. Большие документы, отправленные в формате base64 или в виде обычного текста, могут легко превысить этот порог. Разделите ввод на более мелкие части, если вы обрабатываете длинные документы.

• Проверьте размер полезной нагрузки перед отправкой.
• Используйте потоковую передачу для снижения нагрузки на память.
• Сжимайте ненужные поля в вашем JSON.

Игнорирование этого ограничения приводит к ошибке 413 Payload Too Large. Отладка этой проблемы часто требует анализа размера тела исходного запроса. Наш API строго соблюдает это ограничение для поддержания производительности.

Ошибка 3: Ожидание стандартной модерации там, где её нет

Поскольку модель не имеет цензуры, она не применяет стандартные коммерческие фильтры модерации. Она будет генерировать контент для взрослых, противоречивый или вымышленный контент без отказов. Однако всегда действует жесткое ограничение по контенту: контент сексуального характера с участием несовершеннолетних будет отклонен. Это фиксированное правило, а не настраиваемый параметр.

Не предполагайте, что модель будет самоцензурироваться на основе тона или стиля. Она отвечает прямо. Если вам нужна модерация, реализуйте её в собственном слое приложения. Это даёт вам полный контроль над фильтрацией контента без reliance на провайдера API.

Ошибка 4: Непонимание циклов биллинга предоплаченной криптовалюты

Ежемесячных платежей или подписок нет. Вы пополняете баланс криптовалютой, а кредит списывается за реальное использование токенов. Ошибки бесплатны, поэтому вы платите только за успешные завершения. Кредит не истекает, поэтому вы можете пополнять его в любое время.

Пополнения от $20 до $500 целыми суммами. Доступны бонусы: +5% при пополнении от $50, +10% от $100 и +15% от $200. Принимаем оплату только в USDT (TRC20) или USDC (Base). Эта модель прозрачна и предсказуема.

Ошибка 5: Неприменение потоковой передачи для длинных завершений

Длинные завершения могут занимать значительное время. Без потоковой передачи ваш клиент ждет весь ответ перед отображением чего-либо. Это приводит к плохому пользовательскому опыту и потенциальным таймаутам. Используйте Server-Sent Events (SSE), чтобы получать токены по мере их генерации.

Потоковая передача также помогает управлять использованием памяти на стороне клиента. Последний чанк включает детали об использовании токенов. Это позволяет отслеживать расходы в реальном времени. Настройте код клиента для корректной обработки потоков SSE.

Ошибка 6: Забывание, что ошибки бесплатны, но учитываются иначе

Ошибки не расходуют токены, поэтому вы не платите за них. Однако они всё равно учитываются в ваших лимитах частоты запросов. Если вы отправляете 300 запросов в минуту и многие завершаются ошибкой, вы можете превысить лимит. Это блокирует успешные запросы.

Реализуйте логику повторных попыток с экспоненциальным замедлением. Это предотвращает затопление API неудачными запросами. Отслеживайте частоту ошибок, чтобы оптимизировать структуру полезной нагрузки. Бесплатные ошибки — это преимущество, но лимиты скорости строгие.

Ошибка 7: Путаница этого API с официальным провайдером Mistral

Это независимый сервис. Мы не являемся официальным провайдером Mistral. Мы предлагаем OpenAI-compatible эндпоинт, работающий на нашей собственной uncensored-модели. Базовый URL — HTTPS://api.mistralapidoc.com/v1. Не предполагайте, что здесь применяются официальные цены или лимиты Mistral.

Проверьте официальную документацию Mistral для получения информации об их конкретных моделях и ценах. Наш API предназначен для разработчиков, которым нужен нецензурный вывод со стандартной совместимостью SDK. Мы не предоставляем модели других поставщиков. Наша модель настроена на контент для взрослых и не имеет стандартной модерации.

Документация Mistral API: Чек-лист миграции

Перед миграцией кода проверьте базовый URL и API-ключ. Используйте официальные SDK OpenAI с нашим конечным пунктом. Установите идентификатор модели в "uncensored". Сначала протестируйте с небольшими полезными нагрузками. Убедитесь, что ваш клиент корректно обрабатывает потоки SSE.

• Update base_url to our endpoint.
• Установите модель в "uncensored".
• Реализуйте потоковую передачу для длинных выводов.
• Отслеживайте использование токенов и ошибки.

Этот чек-лист обеспечивает плавный переход. Наш API совместим со стандартными клиентами OpenAI. Без привязки к вендору. Просто измените базовый URL и ключ. Начните с пробного кредита, чтобы проверить функциональность.