使用 OpenAI SDK 在 Python 中调用 Mistral API
使用标准 openai 包,通过设置 base URL、传入密钥并使用模型 uncensored,即可针对此兼容 OpenAI 的接口运行 Mistral API Python 脚本。本指南包含聊天、流式输出、JSON、工具和批处理的代码。
更新于

简短说明
要针对此服务使用 Mistral API 的 Python 工作流,你不需要 Mistral 自己的客户端库。此接口支持 OpenAI chat completions 格式,因此标准的 openai 包即可使用:安装它,将基础 URL 设置为 https://api.mistralapikey.com/v1,传入你的密钥并使用模型 ID uncensored。
必要说明:这不是 Mistral 的官方 API,也与 Mistral 无关。这是一个独立服务,包含一个开放权重模型,由独立提供商运营,经过调整以在法律允许的成人使用范围内不拒绝回答问题。Mistral API 密钥 页面解释了此处的密钥与其他服务的关系。
pip install openai
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)逐行翻译 Mistral 风格代码
如果你有为 Mistral Python 客户端编写的代码,映射关系很简单。请根据你安装的版本,对照客户端自身的文档检查确切名称,因为库可能会发生变化。
| Mistral 风格客户端 | 针对此接口的 OpenAI SDK |
|---|---|
Mistral(api_key=key) | OpenAI(base_url=URL, api_key=key) |
client.chat.complete(...) | client.chat.completions.create(...) |
client.chat.stream(...) | client.chat.completions.create(..., stream=True) |
model="some-model-name" | model="uncensored" |
res.choices[0].message.content | r.choices[0].message.content(相同) |
消息保持为包含 role 和 content 的字典列表。公共字段(包括 choices、usage 和 finish_reason)的响应结构也相同,因此仅读取这些字段的代码无需更改。
并排对比,变更如下所示:
# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)
# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.content将密钥移出代码
从环境变量中读取密钥和 URL,并将它们排除在版本控制之外。
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
在 shell 中:export LLM_API_KEY=...。当你未显式传递这些参数时,OpenAI SDK 也会读取 OPENAI_API_KEY 和 OPENAI_BASE_URL。这对为你构建客户端的工具很有用,但也可能是旧值留在 shell 中导致“密钥错误”的常见来源。当出现 401 错误时,在执行其他操作之前,先打印出已设置的变量。
在 API 密钥页面 获取密钥。新账户可以一键领取 $0.50 的试用额度。无需绑定信用卡,有效期为 7 天,每人限领一次。
流式输出、JSON 和工具
流式输出会在生成时返回 token。设置 stream=True 并进行迭代。使用数据在结束时到达。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
JSON 模式请求有效的 JSON 对象。在提示词中也提及 JSON,并始终进行防御性解析。
import json
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)
工具调用使用 tools 和 tool_choice 参数。当模型返回 tool_calls 时,运行函数并将结果作为消息发送,其中 role: "tool" 和匹配的 tool_call_id。
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Weather in Oslo?"}],
tools=tools,
)
print(r.choices[0].message.tool_calls)异步和并发调用
对于批处理,请使用异步客户端。保持并发请求数低于限制:完整密钥允许 8 个并发请求和每分钟 300 个请求,试用密钥允许 2 个和 60 个。
import asyncio
from openai import AsyncOpenAI
client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)
async def one(prompt):
async with sem:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
max_tokens=200,
)
return r.choices[0].message.content
async def main():
prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
results = await asyncio.gather(*(one(p) for p in prompts))
print(len(results))
asyncio.run(main())
信号量为 6,在 8 以下留有空间。如果没有它,20 个并发请求会触发 HTTP 429 错误并返回代码 concurrency。请记住,流式连接会占用其槽位直到完成。
迁移时的陷阱
大多数问题源于从旧设置继承的假设,而非来自新接口。
- 硬编码的模型名称。 在代码中搜索旧的模型字符串。此处唯一有效的模型 ID 是
uncensored,你可以通过client.models.list()进行确认。 - 为其他模型编写的提示词。 不同的模型对指令的读取方式略有不同。如果系统提示词依赖于特定的措辞,请对其进行测试。简短、直接的指令加上输出格式示例通常迁移效果最好。
- 提供商特定的参数。 仅存在于某个供应商客户端中的参数可能会被忽略或拒绝。坚持使用标准参数:temperature、top_p、stop、seed、max_tokens。惩罚参数会透传。
- 类似安全模式的标志。 如果你的旧代码开启了供应商的审核或安全选项,此处没有等效的开关。如果你的产品需要过滤,请在调用前后自行添加。
- Token 估算。 不同的模型计算 token 的方式不同,因此应根据 API 返回的
usage字段进行预算,而不是依靠本地猜测。
计划进行简短的测试运行,而不是重写。从日志中取十个提示词,通过新客户端运行它们,阅读答案并调整系统提示词,直到语气符合你的要求。
错误及其含义
- 401. 密钥错误或缺失,或密钥来自其他服务。
- 404. 基础 URL 缺少
/v1。 - 429 且包含
rate_limited。 超过每分钟限制。请等待并降低速率。 - 带有
concurrency的 429。 同时请求过多。降低并发度。 - 429 且
Retry-After: 5。 临时过载。等待五秒后重试。
import time
from openai import RateLimitError
def safe(prompt):
for _ in range(4):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5)
return None
保存失败调用的 X-Request-Id 标头。失败或被拒绝的请求不会收费。
成本、限制及不包含的内容
计费为按量付费:输入 token 每 1M 个 $0.15,输出 token 每 1M 个 $0.50,预付,无订阅且永不过期。发送 1,000 个请求,每个请求 1,500 个输入 token 和 400 个输出 token 的脚本成本为 1.5M x $0.15 = $0.225,加上 0.4M x $0.50 = $0.20,总计 $0.425。充值金额从 $20 到 $500 不等,从 $50 起有额外奖励,定价页面列出了详细信息。
上下文窗口为 100,000 个 token,包含提示词和补全内容,请求体最多可达 8 MB。该服务仅支持文本:不支持图像、音频或视频,不支持嵌入和微调,且严禁涉及未成年人的性内容。如果您还希望使用其他客户端访问相同的 API,OpenAI 兼容聊天 API 一文涵盖了 Python 之外的应用,而 文档 列出了所有参数。
更多指南
问答
我需要 Mistral Python 客户端吗?
不需要。标准的 openai 包可与基础 URL https://api.mistralapikey.com/v1. 配合使用,Mistral 风格的调用会映射到 chat.completions.create。
这是 Mistral 的官方 API 吗?
不是。这是一个独立服务,由独立提供商运营,仅包含一个开放权重模型,与 Mistral 无关。
如何在批量处理时避免 429 错误?
使用信号量将并发调用限制在 8 次以下(即最多 7 次),每分钟请求数保持在 300 以下,并在收到 429 响应后等待。
有免费的测试方式吗?
有。注册后,你可以在 API 密钥页面领取 $0.50 的试用额度。无需绑定银行卡,有效期为 7 天。
只需填写一张表单即可获得密钥
创建账户,复制密钥,更改基础 URL。这就是全部设置。