OpenAI互換APIチャット:Python、Node、curl:Python、Node、curl:Python、Node、curl
openai 互換の API チャット呼び出しは、メッセージのリストを含む 1 つの POST とモデルからの 1 つの返信です。このガイドでは、uncensored エンドポイントを例として、リクエスト、マルチターン会話、ストリーミング、発生しうるエラーについて解説します。
更新日:

1 分間のリクエスト
OpenAI チャット形式に対応するクライアントはすべてこのサービスと通信できます。Base URL と API キーの 2 つを変更するだけで、他はそのまま維持できます。ここでは Base URL が https://api.mistralapikey.com/v1、モデル ID が uncensored です。認証は標準的な Authorization: Bearer ヘッダーを使用します。
初回のリクエストは以下のようになります:
curl https://api.mistralapikey.com/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what an API key is in two sentences."}
]
}'
これは独立したサービスで、1つのオープンウェイトモデルを実行しています。このモデルは、法的な成人利用のためにコンテンツ拒否なしで回答するように調整されています。Meta、Mistral、OpenAI、またはその他のベンダーの公式 API ではありません。このサービスはPOST /v1/chat/completionsとGET /v1/modelsの2つのメソッドを公開し、テキストのみを処理します。キーが必要な場合は、API キーページでサインアップと無料トライアルクレジットについて説明しています。
レスポンスの読み方
成功した返信は、標準的な形式の JSON オブジェクトです。テキストは choices[0].message.content に、終了理由は choices[0].finish_reason に、トークン数は usage にあります。
{
"id": "chatcmpl-...",
"object": "chat.completion",
"model": "uncensored",
"choices": [
{
"index": 0,
"message": {"role": "assistant", "content": "An API key is a secret string..."},
"finish_reason": "stop"
}
],
"usage": {"prompt_tokens": 31, "completion_tokens": 48, "total_tokens": 79}
}
finish_reason が stop の場合、モデルは回答を終了しました。length の場合、トークン制限に達したため、max_tokens を増やすか未設定にしてください。ヘッダーも重要です:X-Request-Id はサポート用の呼び出し識別子、X-Balance-USD は残高クレジット、X-RateLimit-Limit-Requests と X-RateLimit-Limit-Concurrency は制限値を示します。
メッセージとロール
messages 配列は会話全体を順序通り含みます。各項目には role と content があります。
- system は動作、トーン、ルールを設定します。最初に配置してください。
- user はユーザーが入力した内容です。
- assistant は会話の以前にモデルが発言した内容です。
- tool はツール呼び出しを使用する場合、関数呼び出しの結果を伝達します。
モデルは配列内の情報のみを知っています。リクエスト間では何も記憶されないため、サーバーはセッションを保持しません。これはチャットエンドポイントを理解する上で最も重要な点であり、なぜ「チャット」がターンごとに高くなるかを説明しています:あなたが送信する履歴は、入力として毎回課金されます。
Pythonでのマルチターンチャット
会話を維持するには、リストを保持し、ユーザーメッセージを追加し、API を呼び出し、アシスタントの返信を追加し、これを繰り返します。これが完全なターミナルチャットです。
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
history = [{"role": "system", "content": "You are a friendly, direct assistant."}]
while True:
text = input("you> ").strip()
if not text:
break
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.7,
)
answer = resp.choices[0].message.content
history.append({"role": "assistant", "content": answer})
print("bot>", answer)
print(f" [{resp.usage.prompt_tokens} in / {resp.usage.completion_tokens} out]")
チャット中に角括弧内の数字に注意してください。「in」カウントは各ターンで増加します。これはそれまでに発せられたすべての内容を含むためです。この成長は正常であり、コスト制御の主要な手段でもあります(以下参照)。
Node でのストリーミング返信
チャットインターフェースでは、生成される際にテキストを表示したいでしょう。stream: true を設定すると、API はサーバー送信イベントを送信します。OpenAI Node SDK はこれを非同期イテレータでラップします。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.mistralapikey.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a four-line poem about debugging." }],
stream: true,
});
for await (const chunk of stream) {
const piece = chunk.choices[0]?.delta?.content ?? "";
process.stdout.write(piece);
}
process.stdout.write("\n");
使用状況はストリームの最後に報告されるため、2 回目の呼び出しなしでトークン数をログに記録できます。運用上の注意点:ストリーミングリクエストはストリームが終了するまで同時実行数のスロットを保持します。ユーザーがタブを閉じた場合、スロットをすばやく解放するためにクライアント側でリクエストをキャンセルしてください。
使用可能なパラメータ
標準的なサンプリング制御はモデルに渡されます。これらは最も頻繁に操作するものです。
| フィールド | 機能 | 実用的なヒント |
|---|---|---|
temperature | 語選択のランダム性 | 抽出には 0〜0.3、クリエイティブなテキストには 0.7〜1.0 |
top_p | 最も可能性の高い単語にサンプリングを制限 | これか temperature のいずれかを変更してください。両方を同時に変更することはほとんどありません。 |
max_tokens | 返信長の上限 | オプション;オープンエンドのプロンプトでコストを制限するために設定 |
stop | 生成を終了するシーケンス | 行ベースの形式に有用 |
seed | 再現可能なサンプリング | テストに便利 |
frequency_penalty、presence_penalty | 反復を避ける | 小さな値でも大きな効果があります |
response_format | JSON モード | {"type":"json_object"}を使用し、プロンプトでキーを記述してください。 |
ツール呼び出しはtoolsとtool_choiceで利用可能です。クイックスタートで一般的な SDK の設定について説明しています。
会話のコスト
料金は、入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50で、前払いクレジットから引かれます。コンテキストウィンドウは、プロンプトと返信を合わせて100,000トークンです。履歴が再送されるため、チャットの料金はメッセージ数よりも速く増大します。
各ユーザーメッセージが約100トークン、各返信が約200トークン、さらに200トークンのシステムメッセージがあるチャットを考えます。ターン1では300の入力トークンが送信されます。ターン10では、約 200 + 10 x 100 + 9 x 200 = 3,000 の入力トークンが送信されます。ターン30では、約 200 + 30 x 100 + 29 x 200 = 9,000 の入力トークンが送信されます。
30 ターンの入力を合計します:合計は 30 x 200 + 100 x (1 + 2 + ... + 30) + 200 x (0 + 1 + ... + 29) = 6,000 + 46,500 + 87,000 = 139,500 の入力トークンです。出力は 30 x 200 = 6,000 トークンです。コスト:139,500 / 1M x $0.15 = $0.020925、プラス 6,000 / 1M x $0.50 = $0.003。30 ターンのチャット全体で約 $0.024 です。安価ですが、入力が出力の 23 倍大きく、長さをトリミングしない限り二乗に比例して増加することに注意してください。
抑制方法:履歴が選択したサイズを超えたら古い会話を削除または要約する、システムプロンプトを短く保つ、長い応答が不要な場合はmax_tokensを設定する。失敗や拒否されたリクエストは課金されません。チャージ額とボーナス階層は料金ページに記載されています。
チャットを壊さずに履歴をトリミングする
会話がある程度長くなると、2つの選択肢があります:すべてのターンで完全な履歴に料金を払うか、履歴を切り捨てるかです。簡単なルールは、システムメッセージと最後の数ターンを保持することです。この関数はそれを行い、ループの残りの部分は変更しません。
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
def trimmed(history, keep=8):
system = history[:1]
rest = history[1:]
return system + rest[-keep:]
resp = client.chat.completions.create(
model="uncensored",
messages=trimmed(history),
)
トリミングの代償は、モデルが見えなくなったものを忘れることです。サポートボットにとっては問題ありませんが、長い物語では、モデルに古いターンの短い要約を一度書いてもらい、それをシステムメッセージとして保存し、元の内容を削除することをお勧めします。これは1回の追加呼び出しの費用がかかりますが、物語の展開を維持できます。
有用なシステムメッセージの作成
短く具体的にしてください:アシスタントは誰か、回答の長さはどのくらいか、フォーマットルールは何かなど。「あなたは自転車店のサポートエージェントです。最大3文で回答し、リクエストが不明瞭な場合は質問してください」という指示は、一般的な美徳のページよりも効果的です。それらのすべての単語は、すべてのターンで入力として課金されるため、1,000トークンのシステムメッセージは、各リクエストに$0.00015を追加します。
エラーと制限
フルキーでは同時リクエストが8件、1分あたりのリクエスト数が300件まで可能です。トライアルキーではそれぞれ2件、60件です。リクエストボディの最大サイズは8 MBです。制限を超えるとHTTP 429エラーが発生し、その意味は以下のいずれかになります。
- エラーコード
rate_limited:1分あたりのリクエスト数が多い。リクエストの間隔を広げてください。 - エラーコード
concurrency:同時にリクエストが多すぎます。リクエストをキューに追加してください。 - ヘッダー
Retry-After: 5:一時的な過負荷。5秒待ってから再試行してください。
401は、キーが不足しているか間違っていることを意味します。キーをフロントエンドコードから外し、サーバーからAPIを呼び出してください。Mistralの設定から移行する場合は、Mistral API キーページでこのサービスでのアクセスについて説明しています。
本番コードでは、OpenAI SDK が一部の失敗に対してすでに実行しているように、短い待機時間を伴うリトライで呼び出しをラップし、すべてのエラーの隣にX-Request-Idの値をログに記録してください。何かおかしい場合、そのIDはサポートが正確なリクエストを指し示すための最速の方法です。また、クライアント側のタイムアウトを設定してください:大きなプロンプトでの長い完了には時間がかかるため、接続が滞留して8つの同時実行スロットの1つを占有しないようにする必要があります。
本サービスは未成年者を含む性的なコンテンツを生成せず、プロンプトはトレーニングに使用されません。
その他のガイド
質問と回答
OpenAI互換とは何を意味しますか?
エンドポイントがOpenAIのチャット完了APIと同じリクエスト形式を受け付けることを意味します。ベースURLとキーを変更すると、OpenAI SDKやツールが動作します。
サーバーは会話を記憶しますか?
いいえ。各リクエストで完全なメッセージ履歴を送信してください。サーバーは呼び出し間にセッションを保持しません。
利用可能なエンドポイントはどれですか?
POST /v1/chat/completions と GET /v1/models です。本サービスはテキストのみで、画像、オーディオ、埋め込みのエンドポイントは提供されません。
返信をストリーミングするにはどうすればよいですか?
stream を true に設定してください。APIはサーバー送信イベント(SSE)を送信し、ストリームの終了時に使用状況を報告します。
どのモデル名を使用すればよいですか?
すべてのリクエストでモデルIDに uncensored を使用してください。
キーはフォーム 1 つで手に入ります
アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。