Mistral api doc: 빠른 시작 가이드

SDK를 설치하고 기본 URL을 설정합니다

언어용 공식 SDK를 설치하고 엔드포인트를 당사 것으로 설정하세요. 기본 URL은 HTTPS://api.mistralapidoc.com/v1입니다. 이 단일 변경으로 기존 로직을 변경하지 않고 모든 호출을 당사 무검열 인프라로 보냅니다. OpenAI 호환성을 지원하는 모든 표준 클라이언트를 사용할 수 있습니다. 설정은 몇 분 안에 완료되며 복잡한 구성 파일이 필요하지 않습니다.

Authorization 헤더에 고유한 API 키를 전달하세요. 시스템은 모든 토큰을 처리하기 전에 선불 잔액에 대해 이 키를 검증합니다. 이 방식은 사용한 만큼만 지불함을 보장합니다. 키를 안전하게 보관하고 노출이 의심될 경우 교체하세요. 키는 Google 또는 이메일을 통해 가입 즉시 발급됩니다.

uncensored 모델로 첫 번째 요청 수행

모델 ID를 "uncensored"로 설정하여 /v1/chat/completions으로 POST 요청을 보내세요. 이 모델은 합법적인 성인 콘텐츠, 픽션, 논쟁적인 주제에 대해 표준 거부 없이 응답합니다. 직접적인 답변을 위해 튜닝된 오픈 웨이트 모델입니다. 버전 번호를 지정하거나 다른 벤더 간 라우팅을 지정할 필요가 없습니다. 응답은 content 필드에 텍스트를 반환합니다.

Copycurl https://api.mistralapidoc.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List all available models and their context windows"}]
  }'

요청 본문에는 메시지 배열과 선택적 매개변수가 포함됩니다. 당사 API는 추가 필드를 우아하게 무시합니다. 간단한 프롬프트를 보내면 직접적인 완성을 받습니다. 복잡한 로직을 추가하기 전에 통합이 제대로 작동하는지 확인하는 데 사용하십시오. 모델은 최대 100,000개의 토큰 컨텍스트를 효율적으로 처리합니다.

스트리밍 활성화 및 토큰 사용 처리

스트림을 true로 설정하여 Server-Sent Events를 통해 토큰을 받습니다. 이 방법은 긴 응답에 대한 지각된 지연 시간을 줄입니다. 스트림의 마지막 청크에는 해당 요청에 대한 전체 토큰 사용량 통계가 포함됩니다. 이러한 지표를 로깅하여 선불 크레딧 소비를 정확하게 추적할 수 있습니다. 스트리밍은 채팅 인터페이스와 실시간 애플리케이션에 이상적입니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

content delta를 누적하여 부분 응답을 처리하세요. 당사 API는 총 토큰 수가 실제 사용량과 일치하도록 보장합니다. 스트리밍 중 오류가 발생해도 미완료된 토큰에 대해서는 요금이 청구되지 않습니다. 이 기능은 투명한 비용 구조를 유지하면서도 매끄러운 사용자 경험을 제공합니다. 사용자가 생성을 중단하는 경우 스트림을 조기에 종료할 수 있습니다.

함수 호출과 JSON 모드를 사용하고

함수 호출을 활성화하기 위해 tools 배열을 전달합니다. 모델은 적절한 경우 구조화된 도구 호출을 출력합니다. response_format을 json_object로 설정하여 JSON 모드를 강제할 수도 있습니다. 이렇게 하면 출력이 유효한 JSON임이 보장되어 애플리케이션에서 파싱이 단순화됩니다. 두 기능 모두 표준 OpenAI SDK 구문과 함께 작동합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapidoc.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

함수 스키마를 이름, 설명, 매개변수로 정의하세요. API는 응답에서 함수 이름과 인수를 반환합니다. 이를 통해 코드는 모델의 결정에 따라 외부 로직을 실행할 수 있습니다. JSON 모드는 엄격한 데이터 구조가 필요할 때 유용합니다. 이러한 기능을 결합하여 견고한 자동화 워크플로우를 만드세요.

매개변수 구성: temperature, top_p 및 seed

무작위성을 제어하기 위해 temperature를 조정하세요. 낮은 값은 응답을 더 결정론적으로 만듭니다. top_p는 nucleus sampling을 가장 확률이 높은 토큰으로 제한합니다. seed는 디버깅을 위해 재현 가능한 출력을 보장합니다. 이러한 파라미터는 모델의 동작에 세밀한 제어를 제공합니다. 창의성과 정확성 사이의 균형을 맞추기 위해 사용하세요.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapidoc.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

반복을 줄이기 위해 presence_penalty와 frequency_penalty를 설정합니다. 모델은 모든 표준 OpenAI 매개변수를 지원합니다. 특정 마커에서 생성을 중단하기 위해 stop 시퀀스를 전달할 수 있습니다. 이러한 제어를 통해 필요한 정확한 출력 형식을 얻을 수 있습니다. 사용 사례에 맞는 최적의 설정을 찾기 위해 다양한 조합을 실험해 보세요.

제한 사항, 오류 및 컨텍스트 윈도우

당사 API는 100,000개의 토큰 컨텍스트 창을 지원합니다. 요청당 최대 출력은 16,000개 토큰이며, max_tokens을 지정하지 않을 경우 2,048개입니다. 분당 300회 요청, 키당 최대 8개의 동시 요청이 제한됩니다. 요청 본문 크기는 8 MB를 초과할 수 없습니다. 이러한 제한은 모든 선불 고객에게 공정한 사용을 보장합니다.

API 키를 확인하여 HTTP 401 오류를 처리하세요. 402 오류는 선불 크레딧이 부족함을 나타냅니다. 서비스를 계속하려면 암호화폐로 충전하세요. 429 오류는 속도 제한을 초과했음을 의미합니다. 잠시 기다린 후 다시 시도하세요. 당사 시스템은 학습을 위해 프롬프트를 사용하지 않으므로 데이터 프라이버시가 보호됩니다. 오류 및 거부 시 크레딧이 차감되지 않으므로 성공적인 완성 결과에 대해서만 요금이 부과됩니다.