中文 ▾
mistralapikey.com

无审查的 Mistral API 替代方案

获取 API 密钥
Base URL
https://api.mistralapikey.com/v1
模型
无审查

使用 OpenAI SDK 在 Python 中调用 Mistral API

使用标准 openai 包,通过设置 base URL、传入密钥并使用模型 uncensored,即可针对此兼容 OpenAI 的接口运行 Mistral API Python 脚本。本指南包含聊天、流式输出、JSON、工具和批处理的代码。

更新于

一道光带穿过玻璃代码块流向网关,代表 Python 调用 API

简短说明

要针对此服务使用 Mistral API 的 Python 工作流,你不需要 Mistral 自己的客户端库。此接口支持 OpenAI chat completions 格式,因此标准的 openai 包即可使用:安装它,将基础 URL 设置为 https://api.mistralapikey.com/v1,传入你的密钥并使用模型 ID uncensored。

必要说明:这不是 Mistral 的官方 API,也与 Mistral 无关。这是一个独立服务,包含一个开放权重模型,由独立提供商运营,经过调整以在法律允许的成人使用范围内不拒绝回答问题。Mistral API 密钥 页面解释了此处的密钥与其他服务的关系。

pip install openai
from openai import OpenAI

client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)

逐行翻译 Mistral 风格代码

如果你有为 Mistral Python 客户端编写的代码,映射关系很简单。请根据你安装的版本,对照客户端自身的文档检查确切名称,因为库可能会发生变化。

Mistral 风格客户端针对此接口的 OpenAI SDK
Mistral(api_key=key)OpenAI(base_url=URL, api_key=key)
client.chat.complete(...)client.chat.completions.create(...)
client.chat.stream(...)client.chat.completions.create(..., stream=True)
model="some-model-name"model="uncensored"
res.choices[0].message.contentr.choices[0].message.content(相同)

消息保持为包含 role 和 content 的字典列表。公共字段(包括 choices、usage 和 finish_reason)的响应结构也相同,因此仅读取这些字段的代码无需更改。

并排对比,变更如下所示:

# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)

# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.content

将密钥移出代码

从环境变量中读取密钥和 URL,并将它们排除在版本控制之外。

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

在 shell 中:export LLM_API_KEY=...。当你未显式传递这些参数时,OpenAI SDK 也会读取 OPENAI_API_KEY 和 OPENAI_BASE_URL。这对为你构建客户端的工具很有用,但也可能是旧值留在 shell 中导致“密钥错误”的常见来源。当出现 401 错误时,在执行其他操作之前,先打印出已设置的变量。

在 API 密钥页面 获取密钥。新账户可以一键领取 $0.50 的试用额度。无需绑定信用卡,有效期为 7 天,每人限领一次。

流式输出、JSON 和工具

流式输出会在生成时返回 token。设置 stream=True 并进行迭代。使用数据在结束时到达。

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON 模式请求有效的 JSON 对象。在提示词中也提及 JSON,并始终进行防御性解析。

import json

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
    response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)

工具调用使用 tools 和 tool_choice 参数。当模型返回 tool_calls 时,运行函数并将结果作为消息发送,其中 role: "tool" 和匹配的 tool_call_id。

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Weather in Oslo?"}],
    tools=tools,
)
print(r.choices[0].message.tool_calls)

异步和并发调用

对于批处理,请使用异步客户端。保持并发请求数低于限制:完整密钥允许 8 个并发请求和每分钟 300 个请求,试用密钥允许 2 个和 60 个。

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)

async def one(prompt):
    async with sem:
        r = await client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
            max_tokens=200,
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
    results = await asyncio.gather(*(one(p) for p in prompts))
    print(len(results))

asyncio.run(main())

信号量为 6,在 8 以下留有空间。如果没有它,20 个并发请求会触发 HTTP 429 错误并返回代码 concurrency。请记住,流式连接会占用其槽位直到完成。

迁移时的陷阱

大多数问题源于从旧设置继承的假设,而非来自新接口。

  • 硬编码的模型名称。 在代码中搜索旧的模型字符串。此处唯一有效的模型 ID 是 uncensored,你可以通过 client.models.list() 进行确认。
  • 为其他模型编写的提示词。 不同的模型对指令的读取方式略有不同。如果系统提示词依赖于特定的措辞,请对其进行测试。简短、直接的指令加上输出格式示例通常迁移效果最好。
  • 提供商特定的参数。 仅存在于某个供应商客户端中的参数可能会被忽略或拒绝。坚持使用标准参数:temperature、top_p、stop、seed、max_tokens。惩罚参数会透传。
  • 类似安全模式的标志。 如果你的旧代码开启了供应商的审核或安全选项,此处没有等效的开关。如果你的产品需要过滤,请在调用前后自行添加。
  • Token 估算。 不同的模型计算 token 的方式不同,因此应根据 API 返回的 usage 字段进行预算,而不是依靠本地猜测。

计划进行简短的测试运行,而不是重写。从日志中取十个提示词,通过新客户端运行它们,阅读答案并调整系统提示词,直到语气符合你的要求。

错误及其含义

  • 401. 密钥错误或缺失,或密钥来自其他服务。
  • 404. 基础 URL 缺少 /v1。
  • 429 且包含 rate_limited。 超过每分钟限制。请等待并降低速率。
  • 带有 concurrency 的 429。 同时请求过多。降低并发度。
  • 429 且 Retry-After: 5。 临时过载。等待五秒后重试。
import time
from openai import RateLimitError

def safe(prompt):
    for _ in range(4):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    return None

保存失败调用的 X-Request-Id 标头。失败或被拒绝的请求不会收费。

成本、限制及不包含的内容

计费为按量付费:输入 token 每 1M 个 $0.15,输出 token 每 1M 个 $0.50,预付,无订阅且永不过期。发送 1,000 个请求,每个请求 1,500 个输入 token 和 400 个输出 token 的脚本成本为 1.5M x $0.15 = $0.225,加上 0.4M x $0.50 = $0.20,总计 $0.425。充值金额从 $20 到 $500 不等,从 $50 起有额外奖励,定价页面列出了详细信息。

上下文窗口为 100,000 个 token,包含提示词和补全内容,请求体最多可达 8 MB。该服务仅支持文本:不支持图像、音频或视频,不支持嵌入和微调,且严禁涉及未成年人的性内容。如果您还希望使用其他客户端访问相同的 API,OpenAI 兼容聊天 API 一文涵盖了 Python 之外的应用,而 文档 列出了所有参数。

问答

我需要 Mistral Python 客户端吗?

不需要。标准的 openai 包可与基础 URL https://api.mistralapikey.com/v1. 配合使用,Mistral 风格的调用会映射到 chat.completions.create。

这是 Mistral 的官方 API 吗?

不是。这是一个独立服务,由独立提供商运营,仅包含一个开放权重模型,与 Mistral 无关。

如何在批量处理时避免 429 错误?

使用信号量将并发调用限制在 8 次以下(即最多 7 次),每分钟请求数保持在 300 以下,并在收到 429 响应后等待。

有免费的测试方式吗?

有。注册后,你可以在 API 密钥页面领取 $0.50 的试用额度。无需绑定银行卡,有效期为 7 天。

只需填写一张表单即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。