JA ▾
mistralapikey.com

無検閲のMistral API代替サービス

API キーを取得
ベース URL
https://api.mistralapikey.com/v1
モデル
無検閲

PythonでMistral APIをOpenAI SDKで使う

Mistral APIのPythonスクリプトは、標準的なopenaiパッケージを使ってこのOpenAI互換エンドポイントで実行できます。ベースURLを設定し、API キーを渡してモデルuncensoredを使用してください。このガイドには、チャット、ストリーミング、JSON、ツール、バッチのコードが含まれています。

更新日:

光の帯がガラスのコードブロックを縫うように通り、ゲートウェイへと向かう。PythonがAPIを呼び出す様子を表す

簡易版

このサービスでmistral apiのPythonワークフローを使用するには、Mistral独自のクライアントライブラリは必要ありません。このエンドポイントはOpenAIのチャット補完フォーマットに対応しているため、標準的なopenaiパッケージが動作します。これをインストールし、ベースURLをhttps://api.mistralapikey.com/v1に設定し、APIキーを渡してモデルIDuncensoredを使用してください。

重要な注意点:これはMistral公式のAPIではなく、Mistralと関連もありません。これは独立したプロバイダが運営する別のサービスで、1つのオープンウェイトモデルを使用しており、法的な成人向け用途においてコンテンツ拒否なしで回答するようにチューニングされています。Mistral APIキーに関するページで、ここで発行されたキーが他のサービスとどのように関連するかをご確認ください。

pip install openai
from openai import OpenAI

client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)

Mistralスタイルのコードを1行ずつ変換する

Mistral Pythonクライアント用に書かれたコードがある場合、マッピングは短くなります。インストールされているバージョンのクライアント独自のドキュメントで正確な名前を確認してください。ライブラリは変更されることがあります。

Mistralスタイルのクライアントこのエンドポイントに対するOpenAI SDK
Mistral(api_key=key)OpenAI(base_url=URL, api_key=key)
client.chat.complete(...)client.chat.completions.create(...)
client.chat.stream(...)client.chat.completions.create(..., stream=True)
model="some-model-name"model="uncensored"
res.choices[0].message.contentr.choices[0].message.content (同じ)

メッセージはroleとcontentを持つ辞書のリストのままです。choices、usage、finish_reasonを含む共通フィールドのレスポンス形状も同じであるため、それらを読み取るだけのコードには変更は不要です。

並べて比較すると、変更は次のようになります。

# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)

# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.content

キーをコードから分離する

キーとURLを環境変数から読み取り、バージョン管理から除外します。

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

シェルでは、export LLM_API_KEY=...とします。OpenAI SDKは、明示的に渡さない場合、OPENAI_API_KEYおよびOPENAI_BASE_URLも読み取ります。これはクライアントを自動構築するツールには便利ですが、シェルに古い値が残っている場合に「間違ったキー」のバグの原因となることもあります。401エラーが発生した場合は、他の操作を行う前に、まずどの変数が設定されているかを確認してください。

APIキーページでキーを取得してください。新規アカウントはワンクリックで$0.50の無料トライアルクレジットを請求できます。カードは不要で、7日間有効、かつ1人1回限りの制限があります。

ストリーミング、JSON、ツール

ストリーミングはトークンが生成されるたびに返します。stream=Trueを設定してイテレートします。使用量データは最後に届きます。

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSONモードは有効なJSONオブジェクトを要求します。プロンプトにも「JSON」と明記し、常に防御的に解析してください。

import json

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
    response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)

ツール呼び出しはtoolsとtool_choiceパラメータを使用します。モデルがtool_callsを返した場合、関数を実行し、role: "tool"と一致するtool_call_idを持つメッセージとして結果を返します。

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Weather in Oslo?"}],
    tools=tools,
)
print(r.choices[0].message.tool_calls)

非同期と並列呼び出し

バッチには非同期クライアントを使用します。実行中のリクエスト数を制限以下に保ってください。フルキーは同時8リクエスト、1分あたり300リクエストまで、トライアルキーは同時2リクエスト、1分あたり60リクエストまで許可されます。

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)

async def one(prompt):
    async with sem:
        r = await client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
            max_tokens=200,
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
    results = await asyncio.gather(*(one(p) for p in prompts))
    print(len(results))

asyncio.run(main())

セマフォを6に設定すると、8の制限内に余裕が生まれます。設定しない場合、20の同時リクエストでHTTP 429エラーのconcurrencyコードに達します。ストリームは完了するまでスロットを保持することに注意してください。

移行時の落とし穴

ほとんどの問題は、新しいエンドポイントそのものではなく、古いセットアップから持ち越された前提条件に起因します。

  • ハードコードされたモデル名。 古いモデル文字列でコードを検索してください。ここで有効なモデルIDはuncensoredのみで、client.models.list()で確認できます。
  • 他のモデル向けに書かれたプロンプト。 異なるモデルは指示の読み取り方が少し異なります。システムプロンプトが特定の表現に依存していた場合はテストしてください。出力形式の例を添えた短く直接的な指示が最も移行しやすいです。
  • プロバイダ固有のパラメータ。 1つのベンダーのクライアントにのみ存在するパラメータは、無視または拒否される場合があります。標準的なもの(temperature、top_p、stop、seed、max_tokens)に限定し、ペナルティは通過します。
  • セーフモード風のフラグ。 古いコードでプロバイダのモデレーションや安全オプションを有効にしていた場合、ここには同等のスイッチはありません。製品にフィルタリングが必要な場合は、呼び出し前後で自前で追加してください。
  • トークン見積もり。 異なるモデルはトークンのカウント方法が異なるため、ローカルな推測ではなく、APIが返すusageフィールドから予算を計算してください。

書き換えではなく短いテストパスを計画してください。ログから10個のプロンプトを取り出し、新しいクライアントで実行し、回答を読み、トーンが希望に一致するまでシステムプロンプトを調整します。

エラーとその意味

  • 401. 間違ったまたは欠落したキー、または他のサービスのキー。
  • 404. ベースURLに/v1が含まれていない。
  • rate_limited付きの429。 1分あたりの制限を超えた。待機して速度を落とす。
  • concurrency付きの429。 一度に多すぎるリクエスト。並列度を下げる。
  • Retry-After: 5による429。 一時的な過負荷。5秒待ってから再試行してください。
import time
from openai import RateLimitError

def safe(prompt):
    for _ in range(4):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    return None

失敗した呼び出しからのX-Request-Idヘッダーを保存してください。失敗または拒否されたリクエストは課金されません。

コスト、制限、含まれないもの

課金は従量制:入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50、前払い、サブスクリプションなし、期限なし。1,500入力トークンと400出力トークンの1,000リクエストを送信するスクリプトのコストは、1.5M x $0.15 = $0.225 に 0.4M x $0.50 = $0.20 を加えた$0.425です。チャージは$20から$500まで、$50以上でボーナスがあり、詳細は価格ページに記載されています。

コンテキストウィンドウは100,000トークン(プロンプトと補完を合わせたもの)で、本文は最大8 MBまでです。このサービスはテキストのみで、画像、音声、動画、埋め込み、ファインチューニングはサポートしていません。また、未成年者を含む性的コンテンツは常に禁止されています。他のクライアントでも同じAPIを使用したい場合は、Python以外のアプリをカバーするOpenAI互換チャットAPIの記事と、すべてのパラメータをリストしたドキュメントを参照してください。

質問と回答

Mistral Pythonクライアントは必要ですか?

いいえ。標準的なopenaiパッケージはベースURL https://api.mistralapikey.com/v1. で動作し、Mistral形式の呼び出しはchat.completions.createにマッピングされます。

これはMistral公式のAPIですか?

いいえ。これは独立したプロバイダが運営する別サービスで、1つのオープンウェイトモデルを使用しており、Mistralとは無関係です。

バッチで429エラーを避けるには?

セマフォを使用して並列呼び出し数を8未満に抑え、1分あたりのリクエスト数を300未満に保ち、429レスポンス後に待機してください。

無料でテストする方法はありますか?

はい。サインアップ後、APIキーページで$0.50の試用クレジットを請求できます。カードは不要で、7日間有効です。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。