使用 OpenAI SDK 在 Python 中呼叫 Mistral API
使用標準 openai 套件,可針對此 OpenAI 相容端點執行 mistral api Python 腳本:設定基礎 URL、提供金鑰並使用模型 uncensored。本指南包含聊天、串流輸出、JSON、工具與批次處理的程式碼。
更新於

簡短版本
要針對此服務使用 mistral api Python 工作流程,你不需要 Mistral 自己的用戶端程式庫。此端點支援 OpenAI 聊天補全格式,因此標準 openai 套件即可運作:安裝它、將基礎 URL 設定為 https://api.mistralapikey.com/v1、提供金鑰並使用模型 ID uncensored。
必要說明:這不是 Mistral 的官方 API,且與 Mistral 無隸屬關係。這是獨立服務,由獨立供應商運營,僅含一個開放權重模型,並針對合法成人用途進行調整以無審查方式回答。Mistral API 金鑰 頁面說明此處的金鑰與其他服務的關聯。
pip install openai
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)逐行遷移 Mistral 風格程式碼
如果你有為 Mistral Python 客戶端編寫的程式碼,對應關係很簡單。請根據你安裝的版本,檢查客戶端自身文件中的確切名稱,因為程式庫會隨時間變更。
| Mistral 風格客戶端 | 針對此端點的 OpenAI SDK |
|---|---|
Mistral(api_key=key) | OpenAI(base_url=URL, api_key=key) |
client.chat.complete(...) | client.chat.completions.create(...) |
client.chat.stream(...) | client.chat.completions.create(..., stream=True) |
model="some-model-name" | model="uncensored" |
res.choices[0].message.content | r.choices[0].message.content (相同) |
訊息保持為包含 role 和 content 的字典列表。常見欄位(包括 choices、usage 和 finish_reason)的回應結構也相同,因此僅讀取這些欄位的程式碼無需變更。
並排比較,變更如下所示:
# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)
# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.content將金鑰排除在程式碼之外
從環境變數讀取金鑰和 URL,並將它們排除在版本控制之外。
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
透過終端機:export LLM_API_KEY=...。當你未明確傳遞這些參數時,OpenAI SDK 也會讀取 OPENAI_API_KEY 與 OPENAI_BASE_URL,這對於自動建立用戶端的工具很有用,但也可能是舊值殘留於終端機中導致「金鑰錯誤」的常見原因。當出現 401 錯誤時,請先列印已設定的變數,再進行其他操作。
在 API 金鑰頁面 取得金鑰。新帳戶可一鍵領取 $0.50 的試用額度。無需信用卡,有效期為 7 天,每人限領一次。
串流輸出、JSON 與工具
串流輸出會隨產生返回 token。設定 stream=True 並進行迭代。用量數據會在最後到達。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
JSON 模式要求有效的 JSON 物件。在提示詞中提及 JSON,並始終進行防禦性解析。
import json
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)
函式呼叫使用 tools 和 tool_choice 參數。當模型返回 tool_calls 時,執行函式並將結果以 role: "tool" 和匹配的 tool_call_id 作為訊息發送回去。
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Weather in Oslo?"}],
tools=tools,
)
print(r.choices[0].message.tool_calls)非同步與並行呼叫
對於批次處理,請使用非同步客戶端。將進行中的請求數量保持在限制以下:完整金鑰允許 8 個並行請求和每分鐘 300 個請求,試用金鑰則為 2 個和 60 個。
import asyncio
from openai import AsyncOpenAI
client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)
async def one(prompt):
async with sem:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
max_tokens=200,
)
return r.choices[0].message.content
async def main():
prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
results = await asyncio.gather(*(one(p) for p in prompts))
print(len(results))
asyncio.run(main())
6 的訊號量在 8 以下留有餘地。若無訊號量,20 個同時呼叫會以程式碼 concurrency 觸發 HTTP 429。請記住,串流輸出會佔用槽位直到完成。
遷移時的陷阱
大多數問題來自舊設定帶來的假設,而非新端點本身。
- 硬編碼的模型名稱。 在程式碼中搜尋舊模型字串。此處唯一有效的模型 ID 是
uncensored,你可以透過client.models.list()確認。 - 為其他模型編寫的提示詞。 不同模型對指令的解讀略有不同。如果系統提示詞依賴特定措辭,請進行測試。簡潔直接的指令加上輸出格式範例通常最容易遷移。
- 供應商專屬參數。 僅存在於單一供應商客戶端的參數可能會被忽略或拒絕。請堅持使用標準參數:temperature、top_p、stop、seed、max_tokens;此外,penalties 也會直接傳遞。
- 安全模式風格的旗標。 如果你的舊程式碼開啟了供應商的審核或安全選項,此處沒有對應的開關。如果你的產品需要過濾,請在呼叫前後自行添加。
- Token 估算。 不同模型計算 token 的方式不同,因此應根據 API 返回的
usage欄位進行預算,而非依賴本地猜測。
規劃為短測試運行,而非重寫。從日誌中取出十個提示詞,透過新客戶端運行它們,閱讀答案並調整系統提示詞,直到語氣符合你的期望。
錯誤及其含義
- 401. 金鑰錯誤或缺失,或使用了來自其他服務的金鑰。
- 404. base URL 缺少
/v1。 - 429 錯誤與
rate_limited。 超過每分鐘限制。等待並減慢速度。 - 429 搭配
concurrency。 同時請求過多。降低並行請求數量。 - 429 且帶有
Retry-After: 5。 暫時過載。等待五秒鐘後再試。
import time
from openai import RateLimitError
def safe(prompt):
for _ in range(4):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5)
return None
儲存失敗呼叫的 X-Request-Id 標頭。失敗或被拒絕的請求不會計費。
成本、限制與不包含的內容
計費方式為按量付費:每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,預付制,無訂閱且無過期期限。發送 1,000 個請求,每個請求包含 1,500 個輸入 token 和 400 個輸出 token 的腳本成本為 1.5M x $0.15 = $0.225 加上 0.4M x $0.50 = $0.20,總計 $0.425。儲值金額從 $20 到 $500 不等,$50 起贈送贈金,定價頁面 列出了詳細資訊。
上下文視窗為 100,000 token(包含提示詞與補全內容),主體大小上限為 8 MB。此服務僅支援文字:不支援圖片、音訊或影片、不支援嵌入、也不支援微調,且涉及未成年人的性內容一律禁止。如果你希望使用其他用戶端存取相同的 API,OpenAI 相容聊天 API一文涵蓋了 Python 以外的應用程式,而 文件則列出所有參數。
更多指南
問答
我需要使用 Mistral Python 客戶端嗎?
否。標準的 openai 套件可與基礎 URL https://api.mistralapikey.com/v1. 搭配運作,Mistral 風格的呼叫會對應到 chat.completions.create。
這是 Mistral 的官方 API 嗎?
不是。這是獨立服務,由獨立供應商運行單一開放權重模型,與 Mistral 無隸屬關係。
如何在批次處理中避免 429 錯誤?
使用訊號量將並行呼叫限制在 8 次以下,每分鐘請求數保持在 300 次以下,並在收到 429 回應後等待。
有免費測試方式嗎?
是的。註冊後,你可以在 API 金鑰頁面領取 $0.50 的試用額度。無需綁定信用卡,有效期為 7 天。
只需填寫一張表單即可取得金鑰
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。