KO ▾
mistralapikey.com

무검열 Mistral API 대안

API 키 받기
기본 URL
https://api.mistralapikey.com/v1
모델
무검열

Python에서 Mistral API를 OpenAI SDK로 사용

mistral api python 스크립트는 표준 openai 패키지를 사용하여 이 OpenAI 호환 엔드포인트에서 실행할 수 있습니다: base URL을 설정하고 키를 전달한 후 모델 uncensored를 사용하세요. 이 가이드에는 채팅, 스트리밍, JSON, 도구 및 배치에 대한 코드가 포함되어 있습니다.

업데이트

유리 코드 블록 사이를 지나 게이트웨이로 이어지는 빛의 리본, Python이 API를 호출하는 것을 나타냄

간단 요약

이 서비스에 대한 mistral api python 워크플로우를 사용하려면 Mistral 자체 클라이언트 라이브러리가 필요하지 않습니다. 이 엔드포인트는 OpenAI 채팅 완료 형식을 지원하므로 표준 openai 패키지가 작동합니다: 설치하고 base URL을 https://api.mistralapikey.com/v1로 설정한 후 키를 전달하고 모델 ID uncensored를 사용하세요.

필수 참고: 이것은 Mistral의 공식 API가 아니며 Mistral과 제휴 관계가 아닙니다. 이는 독립적인 공급자가 운영하는 별도의 서비스로, 하나의 오픈 웨이트 모델을 사용하며 합법적인 성인 사용자를 위해 콘텐츠 거부 없이 답변하도록 조정되었습니다. Mistral API 키 페이지는 여기서의 키가 다른 서비스와 어떻게 관련되는지 설명합니다.

pip install openai
from openai import OpenAI

client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)

Mistral 스타일 코드를 줄별로 번역

Mistral Python 클라이언트를 위해 작성된 코드가 있는 경우 매핑은 짧습니다. 라이브러리가 변경되므로 설치된 버전에 대한 클라이언트의 자체 문서와 정확한 이름을 확인하세요.

Mistral 스타일 클라이언트이 엔드포인트용 OpenAI SDK
Mistral(api_key=key)OpenAI(base_url=URL, api_key=key)
client.chat.complete(...)client.chat.completions.create(...)
client.chat.stream(...)client.chat.completions.create(..., stream=True)
model="some-model-name"model="uncensored"
res.choices[0].message.contentr.choices[0].message.content (동일)

메시지는 role 및 content을 가진 사전 목록으로 유지됩니다. choices, usage 및 finish_reason을 포함한 공통 필드에 대한 응답 형태도 동일하므로 해당 필드만 읽는 코드는 변경할 필요가 없습니다.

나란히 비교하면 변경 사항은 다음과 같습니다:

# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)

# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.content

키를 코드 외부에 유지

환경 변수에서 키와 URL을 읽고 버전 관리 시스템에서 제외하세요.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

쉘의 경우: export LLM_API_KEY=.... OpenAI SDK는 명시적으로 전달하지 않을 때 OPENAI_API_KEY 및 OPENAI_BASE_URL도 읽습니다. 이는 클라이언트를 위해 빌드하는 도구에 유용하지만, 셸에 오래된 값이 남아 있을 때 "잘못된 키" 버그의 고전적인 원인이 되기도 합니다. 401 오류가 발생하면 다른 작업을 수행하기 전에 설정된 변수를 출력하세요.

API 키 페이지에서 키를 얻으세요. 새 계정은 한 번의 클릭으로 $0.50의 무료 체험 크레딧을 청구할 수 있습니다. 카드가 필요 없으며 7일 동안 유효하고 사람당 하나만 제한됩니다.

스트리밍, JSON 및 도구

스트리밍은 생성되는 대로 토큰을 반환합니다. stream=True를 설정하고 반복하세요. 사용량 데이터는 끝에 도착합니다.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON 모드는 유효한 JSON 객체를 요청합니다. 프롬프트에 JSON이라는 단어를 포함하고 항상 방어적으로 구문 분석하세요.

import json

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
    response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)

도구 호출은 tools 및 tool_choice 매개변수를 사용합니다. 모델이 tool_calls을 반환하면 함수를 실행하고 결과를 role: "tool" 및 일치하는 tool_call_id을 가진 메시지로 다시 보내세요.

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Weather in Oslo?"}],
    tools=tools,
)
print(r.choices[0].message.tool_calls)

비동기 및 병렬 호출

배치 처리에는 비동기 클라이언트를 사용하세요. 진행 중인 요청 수는 제한을 넘지 않도록 하세요: 전체 키는 동시 요청 8개와 분당 300개의 요청을 허용하며, 체험 키는 동시 요청 2개와 분당 60개를 허용합니다.

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)

async def one(prompt):
    async with sem:
        r = await client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
            max_tokens=200,
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
    results = await asyncio.gather(*(one(p) for p in prompts))
    print(len(results))

asyncio.run(main())

6개의 세마포어는 8개 제한 아래 여력을 남깁니다. 이를 사용하지 않으면 20개의 동시 호출이 코드 concurrency와 함께 HTTP 429 오류를 발생시킵니다. 스트림은 완료될 때까지 슬롯을 점유한다는 점을 기억하세요.

마이그레이션 시 주의사항

대부분의 문제는 새로운 엔드포인트가 아니라 이전 설정에서 이어진 가정에서 비롯됩니다.

  • 하드코딩된 모델 이름. 코드에서 이전 모델 문자열을 검색하세요. 여기서 유효한 유일한 모델 ID는 uncensored이며, client.models.list()로 확인할 수 있습니다.
  • 다른 모델을 위해 작성된 프롬프트. 다른 모델은 지시를 약간 다르게 해석합니다. 시스템 프롬프트가 특정 구문에 의존했다면 테스트하세요. 출력 형식의 예시가 포함된 짧고 직접적인 지시가 가장 잘 전달됩니다.
  • 제공업체별 매개변수. 특정 벤더 클라이언트에만 존재하는 매개변수는 무시되거나 거부될 수 있습니다. 표준 매개변수인 temperature, top_p, stop, seed, max_tokens을 따르세요. 페널티는 전달됩니다.
  • 세이프 모드 스타일 플래그. 이전 코드에서 공급업체의 검토 또는 안전 옵션을 활성화했다면 여기에는 해당 스위치가 없습니다. 제품에 필터링이 필요한 경우 호출 전후에 자체적으로 추가하세요.
  • 토큰 추정치. 다른 모델은 토큰을 다르게 계산하므로 로컬 추측이 아닌 API가 반환하는 usage 필드에서 예산을 책정하세요.

재작성이 아닌 짧은 테스트 실행을 계획하세요. 로그에서 10개의 프롬프트를 가져와 새 클라이언트로 실행한 후, 원하는 어조와 일치할 때까지 시스템 프롬프트를 조정하며 답변을 읽어보세요.

오류 및 의미

  • 401. 키가 잘못되었거나 누락되었거나 다른 서비스의 키입니다.
  • 404. base URL에 /v1이 누락되었습니다.
  • rate_limited과 함께 429. 분당 제한을 초과했습니다. 기다리고 속도를 늦추세요.
  • concurrency과 함께 429. 동시에 너무 많은 요청이 발생했습니다. 병렬성을 낮추세요.
  • Retry-After: 5과 함께 429. 일시적인 과부하. 5초 동안 기다렸다가 다시 시도하십시오.
import time
from openai import RateLimitError

def safe(prompt):
    for _ in range(4):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    return None

실패한 호출에서 X-Request-Id 헤더를 저장하세요. 실패하거나 거부된 요청에는 요금이 부과되지 않습니다.

비용, 제한 및 미포함 항목

청구 방식은 pay as you go입니다: 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50이며, 선불 방식입니다. 구독이나 만료일이 없습니다. 입력 토큰 1,500개와 출력 토큰 400개로 1,000개의 요청을 보내는 스크립트는 1.5M x $0.15 = $0.225와 0.4M x $0.50 = $0.20이 들어 총 $0.425가 듭니다. 충전 금액은 $20부터 $500까지이며, $50 이상부터 보너스가 적용됩니다. 가격 책정 페이지에서 세부 사항을 확인하세요.

컨텍스트 창은 100,000 토큰이며 프롬프트와 완료를 포함합니다. 본문은 최대 8 MB까지 가능합니다. 이 서비스는 텍스트 전용입니다: 이미지, 오디오 또는 비디오, 임베딩, 파인튜닝이 없으며 미성년자가 포함된 성적인 콘텐츠는 절대 허용되지 않습니다. 다른 클라이언트와 동일한 API를 원하시면 OpenAI 호환 채팅 API 기사를 참조하여 Python 이외의 앱을 확인하고 문서에서 모든 매개변수를 확인하세요.

질문과 답변

Mistral Python 클라이언트가 필요합니까?

아니요. 표준 openai 패키지는 base URL https://api.mistralapikey.com/v1.과 호환됩니다. Mistral 스타일 호출은 chat.completions.create로 매핑됩니다.

이것은 Mistral의 공식 API입니까?

아니요. Mistral과 무관한 독립적인 공급자가 운영하는 단일 오픈 웨이트 모델을 사용하는 별도의 서비스입니다.

배치 처리 중 429 오류를 피하려면 어떻게 합니까?

세마포어를 사용하여 동시 호출을 8개 미만으로 제한하고, 분당 300개 요청 미만을 유지하며, 429 응답 후 대기합니다.

무료로 테스트할 방법이 있습니까?

네. 가입 후 API 키 페이지에서 무료 체험 크레딧 $0.50을 받을 수 있습니다. 카드 등록이 필요 없으며 7일 동안 유효합니다.

키는 양식 하나만 작성하면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.