FR ▾
mistralapikey.com

Alternative à l’API Mistral sans censure

Obtenir une clé API
URL de base
https://api.mistralapikey.com/v1
Modèle
sans censure

API Mistral en Python avec le SDK OpenAI

Un script Python de l’API Mistral peut s’exécuter sur cet endpoint compatible OpenAI avec le package standard openai : définissez l’URL de base, passez votre clé et utilisez le modèle uncensored. Ce guide contient le code pour le chat, le streaming, le JSON, les outils et les lots.

Mis à jour le

Un ruban de lumière s'entrelaçant à travers des blocs de code en verre vers une passerelle, représentant Python appelant une API

Le résumé

Pour utiliser un workflow Python de l’API Mistral avec ce service, vous n’avez pas besoin de la bibliothèque cliente propre à Mistral. Cet endpoint utilise le format de complétions de chat OpenAI, donc le package standard openai fonctionne : installez-le, définissez l’URL de base sur https://api.mistralapikey.com/v1, passez votre clé et utilisez l’ID de modèle uncensored.

Une note nécessaire : ce n’est pas l’API officielle de Mistral et elle n’est pas affiliée à Mistral. Il s’agit d’un service distinct avec un seul modèle à poids ouverts, géré par un fournisseur indépendant et optimisé pour répondre sans refus de contenu pour une utilisation légale des adultes. La page sur la clé API Mistral explique comment les clés ici se rapportent à d’autres services.

pip install openai
from openai import OpenAI

client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)

Traduisez le code style Mistral ligne par ligne

Si vous avez du code écrit pour le client Python de Mistral, le mappage est court. Vérifiez les noms exacts par rapport à la documentation propre au client pour la version que vous avez installée, car les bibliothèques évoluent.

Client style MistralSDK OpenAI contre cet endpoint
Mistral(api_key=key)OpenAI(base_url=URL, api_key=key)
client.chat.complete(...)client.chat.completions.create(...)
client.chat.stream(...)client.chat.completions.create(..., stream=True)
model="some-model-name"model="uncensored"
res.choices[0].message.contentr.choices[0].message.content (identique)

Les messages restent une liste de dictionnaires avec role et content. La forme de la réponse pour les champs courants, y compris choices, usage et finish_reason, est également identique, donc le code qui ne lit que ces champs n’a pas besoin d’être modifié.

Côte à côte, le changement se présente comme suit :

# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)

# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.content

Gardez la clé hors du code

Lisez la clé et l’URL depuis l’environnement, et gardez-les hors de la gestion de version.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

Avec un shell : export LLM_API_KEY=.... Le SDK OpenAI lit également OPENAI_API_KEY et OPENAI_BASE_URL lorsque vous ne les passez pas explicitement, ce qui est utile pour les outils qui construisent le client pour vous, mais c’est aussi une source classique de bogues de « mauvaise clé » lorsqu’une ancienne valeur reste dans le shell. Lorsque quelque chose échoue avec le code 401, affichez quelles variables sont définies avant de faire quoi que ce soit d’autre.

Obtenez une clé sur la page clé API. Les nouveaux comptes peuvent réclamer 0,50 $ de crédit d'essai en un clic. Aucune carte n'est requise, il est valable 7 jours et est limité à un par personne.

Streaming, JSON et outils

Le streaming renvoie les tokens au fur et à mesure de leur génération. Définissez stream=True et itérez. Les données d'utilisation arrivent à la fin.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Le mode JSON demande un objet JSON valide. Mentionnez également le mot JSON dans votre prompt et effectuez toujours une analyse défensive.

import json

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
    response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)

L'appel de fonctions utilise les tools et tool_choice. Lorsque le modèle renvoie tool_calls, exécutez la fonction et renvoyez le résultat en tant que message avec role: "tool" et le tool_call_id correspondant.

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Weather in Oslo?"}],
    tools=tools,
)
print(r.choices[0].message.tool_calls)

Appels asynchrones et parallèles

Pour les lots, utilisez le client asynchrone. Maintenez le nombre de requêtes en cours sous la limite : une clé complète permet 8 requêtes concurrentes et 300 par minute, une clé d'essai 2 et 60.

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)

async def one(prompt):
    async with sem:
        r = await client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
            max_tokens=200,
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
    results = await asyncio.gather(*(one(p) for p in prompts))
    print(len(results))

asyncio.run(main())

Le sémaphore de 6 laisse une marge sous 8. Sans lui, 20 appels simultanés déclencheraient une erreur HTTP 429 avec le code de concurrence concurrency. Souvenez-vous que les flux maintiennent leur slot jusqu’à leur achèvement.

Pièges lors de la migration

La plupart des problèmes proviennent d'hypothèses reprises de l'ancienne configuration plutôt que de l'endpoint.

  • Noms de modèle codés en dur. Recherchez dans votre code l’ancienne chaîne de caractères du modèle. Le seul ID de modèle valide ici est uncensored, et vous pouvez le confirmer avec client.models.list().
  • Prompts écrits pour un autre modèle. Un modèle différent lit les instructions légèrement différemment. Si un prompt système dépendait d'une formulation spécifique, testez-le. Des instructions courtes et directes avec un exemple de format de sortie se transfèrent généralement mieux.
  • Paramètres spécifiques au fournisseur. Les paramètres qui n'existent que dans le client d'un fournisseur peuvent être ignorés ou rejetés. Tenez-vous-en aux paramètres standards : temperature, top_p, stop, seed, max_tokens et les pénalités sont transmises au fournisseur.
  • Indicateurs de type mode sécurisé. Si votre ancien code activait une option de modération ou de sécurité du fournisseur, il n'y a pas d'équivalent ici. Si votre produit nécessite un filtrage, ajoutez-le de votre côté avant et après l'appel.
  • Estimations de tokens. Les différents modèles comptent les tokens différemment, donc budgétisez à partir du champ usage renvoyé par l’API, et non d’une estimation locale.

Prévoyez une courte passe de test, pas une réécriture. Prenez dix prompts de vos journaux, exécutez-les via le nouveau client, lisez les réponses et ajustez le prompt système jusqu'à ce que le ton corresponde à ce que vous souhaitez.

Erreurs et ce qu'elles signifient

  • 401. Clé incorrecte ou manquante, ou une clé d'un autre service.
  • 404. L'URL de base manque de /v1.
  • 429 avec rate_limited. Plus que la limite par minute. Attendez et ralentissez.
  • 429 avec concurrency. Trop de requêtes à la fois. Baissez votre parallélisme.
  • 429 avec Retry-After: 5. Surcharge temporaire. Attendez cinq secondes et réessayez.
import time
from openai import RateLimitError

def safe(prompt):
    for _ in range(4):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    return None

Enregistrez l'en-tête X-Request-Id des appels en échec. Les requêtes échouées ou refusées ne sont pas facturées.

Coût, limites et ce qui n'est pas inclus

La facturation est en paiement à l’usage : 0,15 $ par 1M de tokens d’entrée et 0,50 $ par 1M de tokens de sortie, prépayé, sans abonnement et sans expiration. Un script qui envoie 1 000 requêtes de 1 500 tokens d’entrée et 400 tokens de sortie coûte 1,5M x 0,15 $ = 0,225 $ plus 0,4M x 0,50 $ = 0,20 $, soit 0,425 $. Les recharges vont de 20 $ à 500 $, avec un bonus à partir de 50 $, et la page tarifaire liste les détails.

La fenêtre de contexte est de 100 000 tokens, prompt plus complétion, et le corps peut faire jusqu’à 8 Mo. Le service est uniquement textuel : pas d’images, d’audio ou de vidéo, pas d’embeddings et pas de fine-tuning, et le contenu sexuel impliquant des mineurs n’est jamais autorisé. Si vous souhaitez également la même API avec d’autres clients, l’article sur l’API de chat compatible OpenAI couvre les applications au-delà de Python, et la documentation liste tous les paramètres.

Questions et réponses

Ai-je besoin du client Python Mistral ?

Non. Le package standard openai fonctionne avec l'URL de base https://api.mistralapikey.com/v1. Les appels au format Mistral mappent sur chat.completions.create.

S'agit-il de l'API officielle de Mistral ?

Non. Il s'agit d'un service distinct avec un seul modèle à poids ouverts, géré par un fournisseur indépendant, non affilié à Mistral.

Comment éviter les erreurs 429 dans les lots ?

Capotez les appels parallèles en dessous de 8 à l'aide d'un sémaphore, restez sous 300 requêtes par minute et attendez après une réponse 429.

Existe-t-il un moyen gratuit de tester ?

Oui. Après vous être connecté, vous pouvez réclamer 0,50 $ de crédit d'essai sur la page de la clé API. Aucune carte n'est nécessaire et il est valable 7 jours.

Votre clé n'est qu'à un formulaire d'ici

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.