繁中 ▾
mistralapikey.com

無審查的 Mistral API 替代方案

取得 API 金鑰
Base URL
https://api.mistralapikey.com/v1
模型
無審查

使用 OpenAI SDK 在 Python 中呼叫 Mistral API

使用標準 openai 套件,可針對此 OpenAI 相容端點執行 mistral api Python 腳本:設定基礎 URL、提供金鑰並使用模型 uncensored。本指南包含聊天、串流輸出、JSON、工具與批次處理的程式碼。

更新於

一道光線穿過玻璃程式碼塊流向閘門,象徵 Python 呼叫 API

簡短版本

要針對此服務使用 mistral api Python 工作流程,你不需要 Mistral 自己的用戶端程式庫。此端點支援 OpenAI 聊天補全格式,因此標準 openai 套件即可運作:安裝它、將基礎 URL 設定為 https://api.mistralapikey.com/v1、提供金鑰並使用模型 ID uncensored。

必要說明:這不是 Mistral 的官方 API,且與 Mistral 無隸屬關係。這是獨立服務,由獨立供應商運營,僅含一個開放權重模型,並針對合法成人用途進行調整以無審查方式回答。Mistral API 金鑰 頁面說明此處的金鑰與其他服務的關聯。

pip install openai
from openai import OpenAI

client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)

逐行遷移 Mistral 風格程式碼

如果你有為 Mistral Python 客戶端編寫的程式碼,對應關係很簡單。請根據你安裝的版本,檢查客戶端自身文件中的確切名稱,因為程式庫會隨時間變更。

Mistral 風格客戶端針對此端點的 OpenAI SDK
Mistral(api_key=key)OpenAI(base_url=URL, api_key=key)
client.chat.complete(...)client.chat.completions.create(...)
client.chat.stream(...)client.chat.completions.create(..., stream=True)
model="some-model-name"model="uncensored"
res.choices[0].message.contentr.choices[0].message.content (相同)

訊息保持為包含 role 和 content 的字典列表。常見欄位(包括 choices、usage 和 finish_reason)的回應結構也相同,因此僅讀取這些欄位的程式碼無需變更。

並排比較,變更如下所示:

# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)

# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.content

將金鑰排除在程式碼之外

從環境變數讀取金鑰和 URL,並將它們排除在版本控制之外。

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

透過終端機:export LLM_API_KEY=...。當你未明確傳遞這些參數時,OpenAI SDK 也會讀取 OPENAI_API_KEY 與 OPENAI_BASE_URL,這對於自動建立用戶端的工具很有用,但也可能是舊值殘留於終端機中導致「金鑰錯誤」的常見原因。當出現 401 錯誤時,請先列印已設定的變數,再進行其他操作。

在 API 金鑰頁面 取得金鑰。新帳戶可一鍵領取 $0.50 的試用額度。無需信用卡,有效期為 7 天,每人限領一次。

串流輸出、JSON 與工具

串流輸出會隨產生返回 token。設定 stream=True 並進行迭代。用量數據會在最後到達。

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON 模式要求有效的 JSON 物件。在提示詞中提及 JSON,並始終進行防禦性解析。

import json

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
    response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)

函式呼叫使用 tools 和 tool_choice 參數。當模型返回 tool_calls 時,執行函式並將結果以 role: "tool" 和匹配的 tool_call_id 作為訊息發送回去。

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Weather in Oslo?"}],
    tools=tools,
)
print(r.choices[0].message.tool_calls)

非同步與並行呼叫

對於批次處理,請使用非同步客戶端。將進行中的請求數量保持在限制以下:完整金鑰允許 8 個並行請求和每分鐘 300 個請求,試用金鑰則為 2 個和 60 個。

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)

async def one(prompt):
    async with sem:
        r = await client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
            max_tokens=200,
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
    results = await asyncio.gather(*(one(p) for p in prompts))
    print(len(results))

asyncio.run(main())

6 的訊號量在 8 以下留有餘地。若無訊號量,20 個同時呼叫會以程式碼 concurrency 觸發 HTTP 429。請記住,串流輸出會佔用槽位直到完成。

遷移時的陷阱

大多數問題來自舊設定帶來的假設,而非新端點本身。

  • 硬編碼的模型名稱。 在程式碼中搜尋舊模型字串。此處唯一有效的模型 ID 是 uncensored,你可以透過 client.models.list() 確認。
  • 為其他模型編寫的提示詞。 不同模型對指令的解讀略有不同。如果系統提示詞依賴特定措辭,請進行測試。簡潔直接的指令加上輸出格式範例通常最容易遷移。
  • 供應商專屬參數。 僅存在於單一供應商客戶端的參數可能會被忽略或拒絕。請堅持使用標準參數:temperature、top_p、stop、seed、max_tokens;此外,penalties 也會直接傳遞。
  • 安全模式風格的旗標。 如果你的舊程式碼開啟了供應商的審核或安全選項,此處沒有對應的開關。如果你的產品需要過濾,請在呼叫前後自行添加。
  • Token 估算。 不同模型計算 token 的方式不同,因此應根據 API 返回的 usage 欄位進行預算,而非依賴本地猜測。

規劃為短測試運行,而非重寫。從日誌中取出十個提示詞,透過新客戶端運行它們,閱讀答案並調整系統提示詞,直到語氣符合你的期望。

錯誤及其含義

  • 401. 金鑰錯誤或缺失,或使用了來自其他服務的金鑰。
  • 404. base URL 缺少 /v1。
  • 429 錯誤與 rate_limited。 超過每分鐘限制。等待並減慢速度。
  • 429 搭配 concurrency。 同時請求過多。降低並行請求數量。
  • 429 且帶有 Retry-After: 5。 暫時過載。等待五秒鐘後再試。
import time
from openai import RateLimitError

def safe(prompt):
    for _ in range(4):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    return None

儲存失敗呼叫的 X-Request-Id 標頭。失敗或被拒絕的請求不會計費。

成本、限制與不包含的內容

計費方式為按量付費:每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,預付制,無訂閱且無過期期限。發送 1,000 個請求,每個請求包含 1,500 個輸入 token 和 400 個輸出 token 的腳本成本為 1.5M x $0.15 = $0.225 加上 0.4M x $0.50 = $0.20,總計 $0.425。儲值金額從 $20 到 $500 不等,$50 起贈送贈金,定價頁面 列出了詳細資訊。

上下文視窗為 100,000 token(包含提示詞與補全內容),主體大小上限為 8 MB。此服務僅支援文字:不支援圖片、音訊或影片、不支援嵌入、也不支援微調,且涉及未成年人的性內容一律禁止。如果你希望使用其他用戶端存取相同的 API,OpenAI 相容聊天 API一文涵蓋了 Python 以外的應用程式,而 文件則列出所有參數。

問答

我需要使用 Mistral Python 客戶端嗎?

否。標準的 openai 套件可與基礎 URL https://api.mistralapikey.com/v1. 搭配運作,Mistral 風格的呼叫會對應到 chat.completions.create。

這是 Mistral 的官方 API 嗎?

不是。這是獨立服務,由獨立供應商運行單一開放權重模型,與 Mistral 無隸屬關係。

如何在批次處理中避免 429 錯誤?

使用訊號量將並行呼叫限制在 8 次以下,每分鐘請求數保持在 300 次以下,並在收到 429 回應後等待。

有免費測試方式嗎?

是的。註冊後,你可以在 API 金鑰頁面領取 $0.50 的試用額度。無需綁定信用卡,有效期為 7 天。

只需填寫一張表單即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。