OpenAI 兼容 API 聊天:Python、Node 和 curl
一次 openai compatible api chat 调用包含一次 POST 请求(带消息列表)和模型的一次回复。本指南以 uncensored 接口为例,介绍请求、多轮对话、流式输出以及可能遇到的错误。
更新于

一分钟内的请求
任何能与 OpenAI 聊天格式通信的客户端都能与该服务通信。你只需更改两件事:base URL 和 API 密钥,其余保持不变。这里的 base URL 是 https://api.mistralapikey.com/v1,模型 ID 是 uncensored。认证使用标准的 Authorization: Bearer 头。
首次请求如下所示:
curl https://api.mistralapikey.com/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what an API key is in two sentences."}
]
}'
这是一个独立服务,运行一个开放权重模型,针对合法成人用途进行优化,可在无内容审查的情况下回答。它不是 Meta、Mistral、OpenAI 或其他供应商的官方 API。它提供两种方法:POST /v1/chat/completions 和 GET /v1/models,且仅处理文本。如果你仍然需要 API 密钥,API 密钥页面 解释了注册和免费试用额度。
读取响应
成功的回复是一个常规格式的 JSON 对象。文本位于 choices[0].message.content,停止原因在 choices[0].finish_reason 中,token 计数在 usage 中。
{
"id": "chatcmpl-...",
"object": "chat.completion",
"model": "uncensored",
"choices": [
{
"index": 0,
"message": {"role": "assistant", "content": "An API key is a secret string..."},
"finish_reason": "stop"
}
],
"usage": {"prompt_tokens": 31, "completion_tokens": 48, "total_tokens": 79}
}
finish_reason 为 stop 表示模型已完成回答。值为 length 表示触发了 token 上限,请调高 max_tokens 或将其留空。HTTP 标头同样重要:X-Request-Id 用于在支持时标识该请求,X-Balance-USD 显示你的剩余额度,X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency 则报告你的速率限制。
消息和角色
messages 数组是整个对话,按顺序排列。每个项都有 role 和 content。
- system 设置行为、语气和规则。将其放在最前面。
- user 是用户输入的内容。
- assistant 是模型在对话更早之前所说的内容。
- tool 包含函数调用的结果,如果你使用工具调用。
模型仅知道数组中的内容。请求之间不会保留记忆,因此服务器不会为你保留会话。这是理解聊天接口最关键的一点,也解释了为什么每一轮对话成本更高:你发送的历史记录每次都会作为输入计费。
Python 中的多轮对话
要维持对话,请保留一个列表:追加用户消息、调用 API、追加助手回复,然后重复。这就是一个完整的命令行聊天。
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
history = [{"role": "system", "content": "You are a friendly, direct assistant."}]
while True:
text = input("you> ").strip()
if not text:
break
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.7,
)
answer = resp.choices[0].message.content
history.append({"role": "assistant", "content": answer})
print("bot>", answer)
print(f" [{resp.usage.prompt_tokens} in / {resp.usage.completion_tokens} out]")
聊天时注意方括号中的数字。“in”计数每轮都会增加,因为它包括到目前为止的所有内容。这种增长是正常的,也是你控制成本的主要杠杆,下文将介绍。
Node 中的流式输出
对于聊天界面,你希望文本在生成时显示。设置 stream: true,API 会发送 SSE。OpenAI Node SDK 将其封装为异步迭代器。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.mistralapikey.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a four-line poem about debugging." }],
stream: true,
});
for await (const chunk of stream) {
const piece = chunk.choices[0]?.delta?.content ?? "";
process.stdout.write(piece);
}
process.stdout.write("\n");
使用情况在流结束时报告,因此你仍可以在不发起第二次调用的情况下记录 token 计数。一个操作细节:流式请求会占用其并发槽位,直到流结束。如果用户关闭标签页,请在你的端取消请求,以便尽早释放槽位。
可用的参数
标准采样控制直接传递给模型。这些是你最常调整的参数。
| 字段 | 作用 | 实用技巧 |
|---|---|---|
temperature | 单词选择的随机性 | 提取设为 0 到 0.3,创意文本设为 0.7 到 1.0 |
top_p | 将采样限制为最可能的单词 | 修改此项或 `temperature`,很少同时修改两者 |
max_tokens | 回复长度的上限 | 可选;设置此项以封顶开放式提示词的成本 |
stop | 结束生成的序列 | 对基于行的格式很有用 |
seed | 可重复采样 | 对测试很有用 |
frequency_penalty、presence_penalty | 减少重复 | 小值就能产生很大效果 |
response_format | JSON 模式 | 使用 {"type":"json_object"} 并在提示词中描述键 |
通过 tools 和 tool_choice 提供函数调用。快速入门 涵盖了常见 SDK 的设置。
对话的成本
价格为 $0.15 每 1M 输入 token 和 $0.50 每 1M 输出 token,从预付额度扣除。上下文窗口为 100,000 token(提示词和回复合计)。由于历史消息会被重新发送,聊天成本的增长速度快于消息数量。
假设一个聊天中,每条用户消息约 100 token,每条回复约 200 token,另加一条 200 token 的系统消息。第 1 轮对话发送 300 个输入 token。第 10 轮对话发送约 200 + 10 x 100 + 9 x 200 = 3,000 个输入 token。第 30 轮对话发送约 200 + 30 x 100 + 29 x 200 = 9,000 个。
累加所有 30 轮的输入:总计为 30 x 200 + 100 x (1 + 2 + ... + 30) + 200 x (0 + 1 + ... + 29) = 6,000 + 46,500 + 87,000 = 139,500 个输入 token。输出为 30 x 200 = 6,000 token。成本:139,500 / 1M x $0.15 = $0.020925,加上 6,000 / 1M x $0.50 = $0.003。整个 30 轮聊天总计约 $0.024。便宜,但请注意输入是输出的 23 倍,如果你从不修剪,它将随长度的平方增长。
降低成本的方法:一旦历史超过你选择的阈值,丢弃或总结旧轮次;保持系统提示词简短;在不需要长回复时设置 max_tokens。失败或被拒绝的请求不收费。充值金额和奖励层级列在 定价页面 上。
在不破坏聊天的情况下修剪历史
一旦对话变长,你有两个选择:每轮支付完整历史的费用,或者截断它。一个简单的规则是保留系统消息和最后几轮。此函数可实现此功能,且不影响你的循环其余部分。
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
def trimmed(history, keep=8):
system = history[:1]
rest = history[1:]
return system + rest[-keep:]
resp = client.chat.completions.create(
model="uncensored",
messages=trimmed(history),
)
修剪的代价是模型会忘记它不再看到的内容。对于支持类机器人来说这没问题。对于长故事,你可能更倾向于让模型对旧轮次进行一次简短总结,将其存储为系统备注,并删除原始内容。这需要一次额外的调用,但能保留情节。
编写有用的系统消息
保持简短具体:助手是谁、答案应多长以及任何格式规则。“你是一个自行车店的支持代理。回答不超过三句话,如果请求不清楚则提问。”这比一页通用美德更有效。它的每个字每轮都作为输入计费,因此 1,000 token 的系统消息每次请求增加 $0.00015。
错误和限制
完整密钥允许 8 个并发请求和每分钟 300 个请求;试用密钥允许 2 个和 60 个。最大请求体为 8 MB。超出限制时,你将收到 HTTP 429 错误,其含义如下:
- 错误代码
rate_limited:每分钟请求过多。请拉大请求间隔。 - 错误代码
concurrency:同时请求过多。请进行排队。 Retry-After: 5标头:临时过载。等待 5 秒后重试。
401 表示密钥缺失或错误。请将密钥移出前端代码;从你的服务器调用 API。如果你从 Mistral 配置迁移过来,Mistral API 密钥页面 涵盖了使用此服务的访问方式。
对于生产代码,请在调用时包裹带有短暂等待的重试逻辑,正如 OpenAI SDK 对某些失败所做的那样,并在每个错误旁记录 X-Request-Id 值。当出现问题时,该 ID 是让 支持 定位确切请求的最快方式。同时设置客户端超时:大型提示词的生成长耗时较长,你不想让卡住的连接占用你的 8 个并发槽位。
该服务不生成涉及未成年人的性内容,且提示词不用于训练。
更多指南
问答
什么是 OpenAI 兼容?
这意味着该接口接受与 OpenAI 聊天补全 API 相同的请求格式,因此更改 Base URL 和密钥后,OpenAI SDK 和工具即可使用。
服务器会记住对话吗?
不会。每次请求时发送完整的历史消息。服务器在调用之间不保留会话。
有哪些可用接口?
POST /v1/chat/completions 和 GET /v1/models。该服务仅支持文本,没有图像、音频或嵌入端点。
我如何流式获取回复?
将 stream 设置为 true。API 发送服务器推送事件,并在流结束时报告使用情况。
我应该使用哪个模型名称?
在每个请求中使用 uncensored 作为模型 ID。
只需填写表单,即可获得密钥
创建账户,复制密钥,更改基础 URL。这就是全部设置。