Mistral API in Python met de OpenAI SDK
Een mistral api python script kan tegen dit OpenAI-compatibel endpoint draaien met het standaard openai-pakket: stel de base URL in, voer je sleutel in en gebruik model uncensored. Deze gids bevat de code voor chat, streaming, JSON, tools en batches.
Bijgewerkt

De korte versie
Om een mistral api python workflow tegen deze service te gebruiken, heb je de eigen client library van Mistral niet nodig. Dit endpoint ondersteunt het OpenAI chat completions-formaat, dus het standaard openai pakket werkt: installeer het, stel de base URL in op https://api.mistralapikey.com/v1, voer je sleutel in en gebruik de model ID uncensored.
Een belangrijke opmerking: dit is niet de officiële Mistral API en het is niet gelieerd aan Mistral. Het is een aparte dienst met één open-weight model, beheerd door een onafhankelijke provider en afgestemd om te antwoorden zonder inhoudelijke weigeringen voor legaal gebruik door volwassenen. De pagina over de Mistral API-sleutel legt uit hoe sleutels hier samenhangen met andere diensten.
pip install openai
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)Vertaal Mistral-stijl code regel voor regel
Als je code hebt geschreven voor de Mistral Python client, is de koppeling kort. Controleer de exacte namen tegen de eigen documentatie van de client voor de versie die je hebt geïnstalleerd, omdat bibliotheken veranderen.
| Mistral-style client | OpenAI SDK tegen dit endpoint |
|---|---|
Mistral(api_key=key) | OpenAI(base_url=URL, api_key=key) |
client.chat.complete(...) | client.chat.completions.create(...) |
client.chat.stream(...) | client.chat.completions.create(..., stream=True) |
model="some-model-name" | model="uncensored" |
res.choices[0].message.content | r.choices[0].message.content (zelfde) |
Berichten blijven een lijst van dicts met role en content. De structuur van de response voor de veelvoorkomende velden, inclusief choices, usage en finish_reason, is ook hetzelfde, dus code die alleen die leest hoeft niet te veranderen.
Naast elkaar ziet de verandering er als volgt uit:
# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)
# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.contentHoud de sleutel buiten de code
Lees de sleutel en de URL uit de omgeving en houd ze buiten versiebeheer.
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
Met een shell: export LLM_API_KEY=.... De OpenAI SDK leest ook OPENAI_API_KEY en OPENAI_BASE_URL uit als je ze niet expliciet doorgeeft, wat handig is voor tools die de client voor je bouwen, maar ook een klassieke bron van "verkeerde sleutel"-bugs als een oude waarde in de shell staat. Als er iets misgaat met 401, print dan eerst welke variabelen zijn ingesteld voordat je iets anders doet.
Haal een sleutel op de API-sleutelpagina. Nieuwe accounts kunnen met één klik $0,50 aan proeftegoed claimen. Er is geen creditcard nodig, het is 7 dagen geldig en het is beperkt tot één per persoon.
Streaming, JSON en tools
Streaming retourneert tokens zodra ze gegenereerd zijn. Stel stream=True in en itereren over de resultaten. Gegevens over het gebruik komen aan het einde.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
JSON-modus vraagt om een geldig JSON-object. Zeg het woord JSON ook in je prompt en parse altijd defensief.
import json
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)
Tool calling gebruikt de parameters tools en tool_choice. Als het model tool_calls retourneert, voer de functie uit en stuur het resultaat terug als een bericht met role: "tool" en de bijpassende tool_call_id.
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Weather in Oslo?"}],
tools=tools,
)
print(r.choices[0].message.tool_calls)Async en parallelle aanroepen
Gebruik voor batches de async client. Houd het aantal actieve verzoeken onder de limiet: een volledige sleutel staat 8 gelijktijdige verzoeken en 300 per minuut toe, een trial sleutel 2 en 60.
import asyncio
from openai import AsyncOpenAI
client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)
async def one(prompt):
async with sem:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
max_tokens=200,
)
return r.choices[0].message.content
async def main():
prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
results = await asyncio.gather(*(one(p) for p in prompts))
print(len(results))
asyncio.run(main())
De semaphore van 6 laat ruimte over onder de 8. Zonder deze limiter zouden 20 gelijktijdige verzoeken een HTTP 429-fout opleveren met de code concurrency. Onthoud dat streaming hun slot vasthoudt tot het verzoek is afgerond.
Valkuilen bij migratie
De meeste problemen komen door aannames die meeverhuisd zijn vanuit de oude setup in plaats van door het nieuwe endpoint.
- Hard-coded modelnamen. Zoek je code op de oude modelstring. De enige geldige model-ID hier is
uncensored, en dat kun je bevestigen metclient.models.list(). - Prompts geschreven voor een ander model. Een ander model leest instructies iets anders. Als een system prompt leunde op specifieke formuleringen, test het dan. Korte, directe instructies met een voorbeeld van het uitvoerformaat komen meestal het beste over.
- Aanbiederspecifieke parameters. Parameters die alleen in de client van één aanbieder bestaan, kunnen worden genegeerd of afgewezen. Houd je aan de standaardparameters: temperature, top_p, stop, seed, max_tokens en de straffen worden doorgestuurd.
- Safe-mode vlaggen. Als je oude code een moderatie- of veiligheidsoptie van een provider inschakelde, is hier geen equivalente schakelaar. Als je product filtering nodig heeft, voeg het dan aan je eigen kant voor en na de aanroep toe.
- Token-schattingen. Verschillende modellen tellen tokens anders, dus budgetteer op basis van het
usageveld dat de API retourneert, niet op basis van een lokale gok.
Plan een korte testrun, geen herschrijving. Neem tien prompts uit je logs, draai ze door de nieuwe client, lees de antwoorden en pas de system prompt aan totdat de toon overeenkomt met wat je wilt.
Fouten en wat ze betekenen
- 401. Verkeerde of ontbrekende sleutel, of een sleutel van een andere service.
- 404. De base URL mist
/v1. - 429 met
rate_limited. Meer dan de limiet per minuut. Wacht en vertraag. - 429 met
concurrency. Te veel requests tegelijk. Verlaag je parallelisme. - 429 met
Retry-After: 5. Tijdelijke overbelasting. Wacht vijf seconden en probeer het opnieuw.
import time
from openai import RateLimitError
def safe(prompt):
for _ in range(4):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5)
return None
Sla de X-Request-Id header op van mislukte calls. Mislukte of geweigerde requests worden niet in rekening gebracht.
Kosten, limieten en wat niet inbegrepen is
De facturatie is pay-as-you-go: $0,15 per 1M inputtokens en $0,50 per 1M outputtokens, prepaid, zonder abonnement en zonder verval. Een script dat 1.000 verzoeken stuurt met 1.500 input- en 400 outputtokens kost 1,5M x $0,15 = $0,225 plus 0,4M x $0,50 = $0,20, dus $0,425. Opwaarderingen lopen van $20 tot $500, met een bonus vanaf $50, en de prijzenpagina geeft de details.
Het contextvenster is 100.000 tokens, inclusief prompt en voltooiing, en de body kan maximaal 8 MB zijn. De service is alleen tekst: geen afbeeldingen, audio of video, geen embeddings en geen fine-tuning, en seksuele inhoud met minderjarigen is nooit toegestaan. Als je ook dezelfde API met andere clients wilt gebruiken, behandelt het artikel over de OpenAI-compatibele chat-API apps buiten Python om, en de documentatie somt elke parameter op.
Meer handleidingen
Vragen en antwoorden
Moet ik de Mistral Python client gebruiken?
Nee. Het standaard openai-pakket werkt met de basis-URL https://api.mistralapikey.com/v1. Verzoeken in Mistral-stijl worden gemapt op chat.completions.create.
Is dit de officiële Mistral API?
Nee. Het is een aparte dienst met één open-weight model, beheerd door een onafhankelijke provider, niet gelieerd aan Mistral.
Hoe voorkom ik 429-fouten in batches?
Beperk gelijktijdige verzoeken onder de 8 met een semaphore, blijf onder de 300 verzoeken per minuut en wacht na een 429-response.
Is er een gratis manier om te testen?
Ja. Na het inloggen kun je $0,50 aan proeftegoed claimen op de API-sleutelpagina. Er is geen creditcard nodig en het is 7 dagen geldig.
Je sleutel is nog maar één formulier verwijderd
Maak een account aan, kopieer de sleutel, pas de basis-URL aan. Dat is de hele setup.