Документация Mistral api: Руководство по быстрому старту

Установите SDK и укажите базовый URL

Начните с установки официального SDK для вашего языка и укажите его на наш конечный пункт. Базовый URL — HTTPS://api.mistralapidoc.com/v1. Это единственное изменение направляет все вызовы в нашу инфраструктуру без цензуры, не изменяя вашу существующую логику. Вы можете использовать любой стандартный клиент, поддерживающий совместимость с OpenAI. Настройка занимает секунды и не требует сложных файлов конфигурации.

Убедитесь, что вы передаёте свой уникальный API-ключ в заголовке Authorization. Наша система проверяет этот ключ по вашему предоплаченному балансу перед обработкой любых токенов. Такой подход гарантирует, что вы платите только за то, что используете. Храните ключ в безопасности и меняйте его, если подозреваете его разглашение. Ключ выдаётся сразу после регистрации через Google или электронную почту.

Выполните первый запрос к uncensored модели

Отправьте POST-запрос на /v1/chat/completions, установив идентификатор модели в "uncensored". Эта модель отвечает на законный контент для взрослых, художественную литературу и спорные темы без стандартных отказов. Это модель с открытыми весами, настроенная на прямые ответы. Вам не нужно указывать номер версии или выбирать маршрут между разными поставщиками. В ответе текст возвращается в поле content.

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

Тело запроса содержит ваш массив сообщений и необязательные параметры. Наш API корректно игнорирует дополнительные поля. Если вы отправите простой промпт, вы получите прямое завершение. Используйте это для проверки работоспособности интеграции перед добавлением сложной логики. Модель эффективно обрабатывает контекст объемом до 100,000 токенов.

Включите потоковую передачу и обработайте использование токенов

Установите stream в true, чтобы получать токены через Server-Sent Events. Этот метод снижает воспринимаемую задержку для длинных ответов. Последний фрагмент потока содержит полную статистику использования токенов для этого запроса. Вы можете регистрировать эти метрики для точного отслеживания расхода предоплаченных кредитов. Потоковая передача идеально подходит для чат-интерфейсов и приложений реального времени.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обрабатывайте частичные ответы, накапливая дельту контента. Наш API гарантирует, что общее количество токенов соответствует фактическому использованию. Ошибки во время потоковой передачи не начисляют оплату за неполные токены. Эта функция обеспечивает плавный пользовательский опыт и прозрачность затрат. Вы можете прервать поток досрочно, если пользователь прервет генерацию.

Используйте вызов функций и режим JSON

Передайте массив tools, чтобы включить вызов функций. Модель будет выдавать структурированные вызовы инструментов, когда это уместно. Вы также можете принудительно включить режим JSON, установив response_format в json_object. Это гарантирует, что вывод будет действительным JSON, что упрощает его разбор в вашем приложении. Обе функции работают с синтаксисом стандартного SDK OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Определите схему вашей функции с именем, описанием и параметрами. API возвращает имя функции и аргументы в ответе. Это позволяет вашему коду выполнять внешнюю логику на основе решения модели. Режим JSON полезен, когда вам нужны строгие структуры данных. Комбинируйте эти функции для надежных автоматизированных рабочих процессов.

Настройте параметры: температура, top_p и seed

Настраивайте temperature для управления случайностью. Низкие значения делают ответы более детерминированными. Top_p ограничивает nucleus-сэмплирование наиболее вероятными токенами. Seed обеспечивает воспроизводимость результатов для отладки. Эти параметры дают вам детальный контроль над поведением модели. Используйте их для настройки баланса между креативностью и точностью.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Установите presence_penalty и frequency_penalty, чтобы уменьшить повторения. Модель поддерживает все стандартные параметры OpenAI. Вы можете передать последовательность stop, чтобы остановить генерацию на определённых маркерах. Эти параметры помогают получить именно тот формат вывода, который вам нужен. Экспериментируйте с различными комбинациями, чтобы найти оптимальные настройки для вашего случая использования.

Лимиты, ошибки и контекстное окно

Наш API поддерживает контекстное окно объёмом 100 000 токенов. Максимальный объём вывода на один запрос составляет 16 000 токенов или 2 048, если вы не укажете max_tokens. Лимит составляет 300 запросов в минуту и 8 одновременных запросов на ключ. Тело запроса должно быть не более 8 МБ. Эти ограничения обеспечивают справедливое использование для всех клиентов с предоплатой.

Обрабатывайте ошибки HTTP 401, проверяя свой ключ API. Ошибка 402 указывает на недостаток предоплаченного кредита. Пополняйте криптовалютой, чтобы возобновить службу. Ошибка 429 означает, что вы превысили лимит. Подождите немного перед повторной попыткой. Наша система не использует промпты для обучения, сохраняя конфиденциальность ваших данных. Ошибки и отказы бесплатны, поэтому вы платите только за успешные завершения.