Чат через API, совместимый с OpenAI: Python, Node и curl
Вызов API-чата, совместимого с OpenAI, — это один POST-запрос со списком сообщений и один ответ от модели. В этом руководстве мы разберём запрос, многоходовые диалоги, потоковую передачу и ошибки, которые могут возникнуть, используя эндпоинт без цензуры в качестве примера.
Обновлено

Запрос за одну минуту
Любой клиент, который может работать с форматом чата OpenAI, может работать с этим сервисом. Вы меняете две вещи: базовый URL и ключ, и сохраняете всё остальное. Здесь базовый URL — https://api.mistralapikey.com/v1, а идентификатор модели — uncensored. Аутентификация — стандартный заголовок Authorization: Bearer.
Первый запрос выглядит так:
curl https://api.mistralapikey.com/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what an API key is in two sentences."}
]
}'
Это независимый сервис, запускающий одну модель с открытыми весами, настроенную на ответы без отказов по содержанию для законного использования взрослыми. Это не официальный API Meta, Mistral, OpenAI или любого другого поставщика. Он предоставляет два метода: POST /v1/chat/completions и GET /v1/models, и обрабатывает только текст. Если вам всё ещё нужен ключ, страница API-ключ объясняет регистрацию и пробный баланс.
Чтение ответа
Успешный ответ — это объект JSON в обычном формате. Текст находится в choices[0].message.content, причина остановки — в choices[0].finish_reason, а подсчёт токенов — в usage.
{
"id": "chatcmpl-...",
"object": "chat.completion",
"model": "uncensored",
"choices": [
{
"index": 0,
"message": {"role": "assistant", "content": "An API key is a secret string..."},
"finish_reason": "stop"
}
],
"usage": {"prompt_tokens": 31, "completion_tokens": 48, "total_tokens": 79}
}
Значение finish_reason stop означает, что модель завершила ответ. Значение length означает, что достигнут лимит токенов, поэтому увеличьте max_tokens или оставьте его незаданным. Важны и заголовки: X-Request-Id идентифицирует вызов для поддержки, X-Balance-USD показывает ваш оставшийся кредит, а X-RateLimit-Limit-Requests и X-RateLimit-Limit-Concurrency сообщают о ваших лимитах.
Сообщения и роли
Массив messages — это весь разговор по порядку. Каждый элемент имеет role и content.
- system задаёт поведение, тон и правила. Поместите его первым.
- user — это то, что ввёл человек.
- assistant — это то, что сказала модель ранее в разговоре.
- tool содержит результат вызова функции, если вы используете вызов функций.
Модель знает только то, что есть в массиве. Между запросами ничего не запоминается, поэтому сервер не сохраняет для вас сессию. Это самая важная вещь, которую нужно понять о чат-эндпоинтах, и это объясняет, почему «чат» стоит дороже с каждым ходом: история, которую вы отправляете, оплачивается как входные данные каждый раз.
Многоходовой чат на Python
Чтобы вести разговор, храните список, добавляйте сообщение пользователя, вызывайте API, добавляйте ответ ассистента и повторяйте. Это полноценный чат в терминале.
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
history = [{"role": "system", "content": "You are a friendly, direct assistant."}]
while True:
text = input("you> ").strip()
if not text:
break
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.7,
)
answer = resp.choices[0].message.content
history.append({"role": "assistant", "content": answer})
print("bot>", answer)
print(f" [{resp.usage.prompt_tokens} in / {resp.usage.completion_tokens} out]")
Следите за числами в скобках во время чата. Счётчик «in» растёт с каждым ходом, потому что включает всё, что было сказано до сих пор. Этот рост нормален и является вашим главным рычагом контроля затрат, описанным ниже.
Потоковая передача ответов в Node
Для интерфейса чата вы хотите, чтобы текст появлялся по мере генерации. Установите stream: true, и API будет отправлять события, отправляемые сервером. Node SDK от OpenAI оборачивает это в асинхронный итератор.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.mistralapikey.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a four-line poem about debugging." }],
stream: true,
});
for await (const chunk of stream) {
const piece = chunk.choices[0]?.delta?.content ?? "";
process.stdout.write(piece);
}
process.stdout.write("\n");
Использование сообщается в конце потока, поэтому вы всё ещё можете логировать количество токенов без второго запроса. Одна техническая особенность: потоковый запрос удерживает слот параллельных запросов до завершения потока. Если пользователь закрывает вкладку, отмените запрос на своей стороне, чтобы слот освободился раньше.
Параметры, которые вы можете использовать
Стандартные параметры сэмплирования передаются модели. Это те, которые вы будете изменять чаще всего.
| Поле | Что делает | Практический совет |
|---|---|---|
temperature | Случайность выбора слов | 0–0,3 для извлечения, 0,7–1,0 для творческого текста |
top_p | Ограничивает выборку наиболее вероятными словами | Измените это или temperature, но редко оба сразу |
max_tokens | Верхняя граница длины ответа | Необязательно; установите, чтобы ограничить расходы на длинные промпты |
stop | Последовательности, завершающие генерацию | Полезно для форматов на основе строк |
seed | Повторяемая выборка | Удобно для тестов |
frequency_penalty, presence_penalty | Снижает повторы | Малые значения дают большой эффект |
response_format | JSON-режим | Используйте {"type":"json_object"} и опишите ключи в промпте |
Вызов функций доступен через параметры tools и tool_choice. В разделе быстрого старта описана настройка для распространённых SDK.
Сколько стоит разговор
Цены: $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов из предоплаченного баланса. Контекстное окно составляет 100 000 токенов для промпта и ответа вместе. Поскольку история отправляется снова, стоимость чата растёт быстрее, чем количество сообщений.
Возьмите чат, где каждое сообщение пользователя составляет около 100 токенов, а каждый ответ — около 200 токенов, плюс системное сообщение на 200 токенов. Ход 1 отправляет 300 входных токенов. Ход 10 отправляет примерно 200 + 10 x 100 + 9 x 200 = 3 000 входных токенов. Ход 30 отправляет около 200 + 30 x 100 + 29 x 200 = 9 000.
Сложите все 30 ходов входных данных: всего 30 x 200 + 100 x (1 + 2 + ... + 30) + 200 x (0 + 1 + ... + 29) = 6 000 + 46 500 + 87 000 = 139 500 входных токенов. Выходные данные: 30 x 200 = 6 000 токенов. Стоимость: 139 500 / 1M x $0,15 = $0,020925, плюс 6 000 / 1M x $0,50 = $0,003. Весь 30-ходовой чат обходится примерно в $0,024. Дёшево, но обратите внимание, что входные данные в 23 раза больше выходных, и они росли бы квадратично от длины, если бы вы никогда не обрезали историю.
Как снизить расходы: удаляйте или кратко пересказывайте старые сообщения, когда история превышает выбранный вами размер, держите системный промпт коротким и устанавливайте max_tokens, когда не нужны длинные ответы. Неудачные или отклонённые запросы не оплачиваются. Суммы пополнения и бонусные уровни указаны на странице тарифов.
Обрезка истории без нарушения чата
Когда разговор становится длинным, у вас есть два варианта: платить за полную историю каждый ход или обрезать её. Простое правило — сохранять системное сообщение и последние несколько ходов. Эта функция делает это и оставляет остальную часть вашего цикла неизменной.
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
def trimmed(history, keep=8):
system = history[:1]
rest = history[1:]
return system + rest[-keep:]
resp = client.chat.completions.create(
model="uncensored",
messages=trimmed(history),
)
Цена обрезки в том, что модель забывает то, что больше не видит. Для ботов поддержки это нормально. Для длинных историй вы можете попросить модель один раз написать краткое резюме старых ходов, сохранить его как системную заметку и удалить оригиналы. Это стоит один дополнительный вызов, но сохраняет сюжет.
Написание полезного системного сообщения
Держите его коротким и конкретным: кто ассистент, какой длины должны быть ответы и любые правила формата. «Вы — агент поддержки велосипедного магазина. Отвечайте не более чем тремя предложениями и задавайте вопрос, если запрос неясен» работает лучше, чем страница общих фраз. Каждое слово из него оплачивается как входные данные при каждом ходе, поэтому системное сообщение на 1000 токенов добавляет $0,00015 к каждому запросу.
Ошибки и лимиты
Платный ключ позволяет 8 параллельных запросов и 300 запросов в минуту; ключ для пробного периода — 2 и 60 соответственно. Максимальный размер тела запроса — 8 МБ. При превышении лимита вы получите HTTP 429 с одним из следующих значений:
- Код ошибки
rate_limited: слишком много запросов в минуту. Делайте паузы. - Код ошибки
concurrency: слишком много одновременных запросов. Поставьте их в очередь. - Заголовок
Retry-After: 5: временная перегрузка. Подождите 5 секунд и повторите запрос.
Код 401 означает, что ключ отсутствует или неверен. Не храните ключи в коде фронтенда; вызывайте API со своего сервера. Если вы переходите с конфигурации Mistral, страница Mistral API-ключ описывает доступ к этому сервису.
Для продакшн-кода оберните вызовы в механизм повторов с короткой задержкой, как это уже делают SDK OpenAI для некоторых сбоев, и логируйте значение X-Request-Id рядом с каждой ошибкой. Когда что-то пойдет не так, этот ID позволит быстрее всего указать поддержке на конкретный запрос. Также установите тайм-аут на стороне клиента: длинное завершение большого промпта может занять время, и вы не хотите, чтобы зависшее соединение занимало один из 8 слотов параллельных запросов.
Сервис не производит контент сексуального характера с участием несовершеннолетних, а промпты не используются для обучения.
Дополнительные руководства
Вопросы и ответы
Что означает «совместимо с OpenAI»?
Это означает, что эндпоинт принимает тот же формат запроса, что и API чат-завершений OpenAI, поэтому SDK и инструменты OpenAI работают после изменения базового URL и ключа.
Запоминает ли сервер разговор?
Нет. Отправляйте полную историю сообщений с каждым запросом. Сервер не хранит сессии между вызовами.
Какие эндпоинты доступны?
POST /v1/chat/completions и GET /v1/models. Сервис работает только с текстом, без эндпоинтов для изображений, аудио или эмбеддингов.
Как получить потоковую передачу ответа?
Установите stream в true. API отправляет server-sent events и сообщает об использовании в конце потока.
Какое имя модели использовать?
Используйте uncensored в качестве идентификатора модели в каждом запросе.
Ваш ключ — всего в одной форме
Создайте аккаунт, скопируйте ключ, измените базовый URL. Вот и вся настройка.