中文 ▾
mistralapikey.com

无审查的 Mistral API 替代方案

获取 API 密钥
Base URL
https://api.mistralapikey.com/v1
模型
无审查

OpenAI 兼容 API 聊天:Python、Node 和 curl

一次 openai compatible api chat 调用包含一次 POST 请求(带消息列表)和模型的一次回复。本指南以 uncensored 接口为例,介绍请求、多轮对话、流式输出以及可能遇到的错误。

更新于

聊天气泡在设备和服务器塔之间交换光立方体,说明 API 聊天请求

一分钟内的请求

任何能与 OpenAI 聊天格式通信的客户端都能与该服务通信。你只需更改两件事:base URL 和 API 密钥,其余保持不变。这里的 base URL 是 https://api.mistralapikey.com/v1,模型 ID 是 uncensored。认证使用标准的 Authorization: Bearer 头。

首次请求如下所示:

curl https://api.mistralapikey.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what an API key is in two sentences."}
    ]
  }'

这是一个独立服务,运行一个开放权重模型,针对合法成人用途进行优化,可在无内容审查的情况下回答。它不是 Meta、Mistral、OpenAI 或其他供应商的官方 API。它提供两种方法:POST /v1/chat/completions 和 GET /v1/models,且仅处理文本。如果你仍然需要 API 密钥,API 密钥页面 解释了注册和免费试用额度。

读取响应

成功的回复是一个常规格式的 JSON 对象。文本位于 choices[0].message.content,停止原因在 choices[0].finish_reason 中,token 计数在 usage 中。

{
  "id": "chatcmpl-...",
  "object": "chat.completion",
  "model": "uncensored",
  "choices": [
    {
      "index": 0,
      "message": {"role": "assistant", "content": "An API key is a secret string..."},
      "finish_reason": "stop"
    }
  ],
  "usage": {"prompt_tokens": 31, "completion_tokens": 48, "total_tokens": 79}
}

finish_reason 为 stop 表示模型已完成回答。值为 length 表示触发了 token 上限,请调高 max_tokens 或将其留空。HTTP 标头同样重要:X-Request-Id 用于在支持时标识该请求,X-Balance-USD 显示你的剩余额度,X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency 则报告你的速率限制。

消息和角色

messages 数组是整个对话,按顺序排列。每个项都有 role 和 content。

  • system 设置行为、语气和规则。将其放在最前面。
  • user 是用户输入的内容。
  • assistant 是模型在对话更早之前所说的内容。
  • tool 包含函数调用的结果,如果你使用工具调用。

模型仅知道数组中的内容。请求之间不会保留记忆,因此服务器不会为你保留会话。这是理解聊天接口最关键的一点,也解释了为什么每一轮对话成本更高:你发送的历史记录每次都会作为输入计费。

Python 中的多轮对话

要维持对话,请保留一个列表:追加用户消息、调用 API、追加助手回复,然后重复。这就是一个完整的命令行聊天。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapikey.com/v1",
    api_key="YOUR_API_KEY",
)

history = [{"role": "system", "content": "You are a friendly, direct assistant."}]

while True:
    text = input("you> ").strip()
    if not text:
        break
    history.append({"role": "user", "content": text})

    resp = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.7,
    )
    answer = resp.choices[0].message.content
    history.append({"role": "assistant", "content": answer})

    print("bot>", answer)
    print(f"   [{resp.usage.prompt_tokens} in / {resp.usage.completion_tokens} out]")

聊天时注意方括号中的数字。“in”计数每轮都会增加,因为它包括到目前为止的所有内容。这种增长是正常的,也是你控制成本的主要杠杆,下文将介绍。

Node 中的流式输出

对于聊天界面,你希望文本在生成时显示。设置 stream: true,API 会发送 SSE。OpenAI Node SDK 将其封装为异步迭代器。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.mistralapikey.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a four-line poem about debugging." }],
  stream: true,
});

for await (const chunk of stream) {
  const piece = chunk.choices[0]?.delta?.content ?? "";
  process.stdout.write(piece);
}
process.stdout.write("\n");

使用情况在流结束时报告,因此你仍可以在不发起第二次调用的情况下记录 token 计数。一个操作细节:流式请求会占用其并发槽位,直到流结束。如果用户关闭标签页,请在你的端取消请求,以便尽早释放槽位。

可用的参数

标准采样控制直接传递给模型。这些是你最常调整的参数。

字段作用实用技巧
temperature单词选择的随机性提取设为 0 到 0.3,创意文本设为 0.7 到 1.0
top_p将采样限制为最可能的单词修改此项或 `temperature`,很少同时修改两者
max_tokens回复长度的上限可选;设置此项以封顶开放式提示词的成本
stop结束生成的序列对基于行的格式很有用
seed可重复采样对测试很有用
frequency_penalty、presence_penalty减少重复小值就能产生很大效果
response_formatJSON 模式使用 {"type":"json_object"} 并在提示词中描述键

通过 tools 和 tool_choice 提供函数调用。快速入门 涵盖了常见 SDK 的设置。

对话的成本

价格为 $0.15 每 1M 输入 token 和 $0.50 每 1M 输出 token,从预付额度扣除。上下文窗口为 100,000 token(提示词和回复合计)。由于历史消息会被重新发送,聊天成本的增长速度快于消息数量。

假设一个聊天中,每条用户消息约 100 token,每条回复约 200 token,另加一条 200 token 的系统消息。第 1 轮对话发送 300 个输入 token。第 10 轮对话发送约 200 + 10 x 100 + 9 x 200 = 3,000 个输入 token。第 30 轮对话发送约 200 + 30 x 100 + 29 x 200 = 9,000 个。

累加所有 30 轮的输入:总计为 30 x 200 + 100 x (1 + 2 + ... + 30) + 200 x (0 + 1 + ... + 29) = 6,000 + 46,500 + 87,000 = 139,500 个输入 token。输出为 30 x 200 = 6,000 token。成本:139,500 / 1M x $0.15 = $0.020925,加上 6,000 / 1M x $0.50 = $0.003。整个 30 轮聊天总计约 $0.024。便宜,但请注意输入是输出的 23 倍,如果你从不修剪,它将随长度的平方增长。

降低成本的方法:一旦历史超过你选择的阈值,丢弃或总结旧轮次;保持系统提示词简短;在不需要长回复时设置 max_tokens。失败或被拒绝的请求不收费。充值金额和奖励层级列在 定价页面 上。

在不破坏聊天的情况下修剪历史

一旦对话变长,你有两个选择:每轮支付完整历史的费用,或者截断它。一个简单的规则是保留系统消息和最后几轮。此函数可实现此功能,且不影响你的循环其余部分。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapikey.com/v1",
    api_key="YOUR_API_KEY",
)

def trimmed(history, keep=8):
    system = history[:1]
    rest = history[1:]
    return system + rest[-keep:]

resp = client.chat.completions.create(
    model="uncensored",
    messages=trimmed(history),
)

修剪的代价是模型会忘记它不再看到的内容。对于支持类机器人来说这没问题。对于长故事,你可能更倾向于让模型对旧轮次进行一次简短总结,将其存储为系统备注,并删除原始内容。这需要一次额外的调用,但能保留情节。

编写有用的系统消息

保持简短具体:助手是谁、答案应多长以及任何格式规则。“你是一个自行车店的支持代理。回答不超过三句话,如果请求不清楚则提问。”这比一页通用美德更有效。它的每个字每轮都作为输入计费,因此 1,000 token 的系统消息每次请求增加 $0.00015。

错误和限制

完整密钥允许 8 个并发请求和每分钟 300 个请求;试用密钥允许 2 个和 60 个。最大请求体为 8 MB。超出限制时,你将收到 HTTP 429 错误,其含义如下:

  • 错误代码 rate_limited:每分钟请求过多。请拉大请求间隔。
  • 错误代码 concurrency:同时请求过多。请进行排队。
  • Retry-After: 5 标头:临时过载。等待 5 秒后重试。

401 表示密钥缺失或错误。请将密钥移出前端代码;从你的服务器调用 API。如果你从 Mistral 配置迁移过来,Mistral API 密钥页面 涵盖了使用此服务的访问方式。

对于生产代码,请在调用时包裹带有短暂等待的重试逻辑,正如 OpenAI SDK 对某些失败所做的那样,并在每个错误旁记录 X-Request-Id 值。当出现问题时,该 ID 是让 支持 定位确切请求的最快方式。同时设置客户端超时:大型提示词的生成长耗时较长,你不想让卡住的连接占用你的 8 个并发槽位。

该服务不生成涉及未成年人的性内容,且提示词不用于训练。

问答

什么是 OpenAI 兼容?

这意味着该接口接受与 OpenAI 聊天补全 API 相同的请求格式,因此更改 Base URL 和密钥后,OpenAI SDK 和工具即可使用。

服务器会记住对话吗?

不会。每次请求时发送完整的历史消息。服务器在调用之间不保留会话。

有哪些可用接口?

POST /v1/chat/completions 和 GET /v1/models。该服务仅支持文本,没有图像、音频或嵌入端点。

我如何流式获取回复?

将 stream 设置为 true。API 发送服务器推送事件,并在流结束时报告使用情况。

我应该使用哪个模型名称?

在每个请求中使用 uncensored 作为模型 ID。

只需填写表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。