OpenAI-kompatible API-Chat: Python, Node und curl
Ein mit OpenAI kompatibler API-Chat-Aufruf besteht aus einem POST mit einer Liste von Nachrichten und einer Antwort des Modells. Dieser Leitfaden zeigt Schritt für Schritt die Anfrage, Mehrfachgespräche, Streaming und die Fehler, auf die du stoßen kannst, am Beispiel eines unzensierten Endpunkts.
Aktualisiert

Die Anfrage in einer Minute
Jeder Client, der mit dem OpenAI-Chat-Format kommunizieren kann, kann diesen Dienst nutzen. Du änderst zwei Dinge, die Basis-URL und den Schlüssel, und behältst alles andere bei. Hier ist die Basis-URL https://api.mistralapikey.com/v1 und die Modell-ID ist uncensored. Die Authentifizierung erfolgt über einen Standard-Authorization: Bearer-Header.
Eine erste Anfrage sieht so aus:
curl https://api.mistralapikey.com/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what an API key is in two sentences."}
]
}'
Dies ist ein unabhängiger Dienst, der ein Open-Weight-Modell ausführt, das darauf trainiert wurde, ohne Inhaltsablehnungen für die rechtmäßige Nutzung durch Erwachsene zu antworten. Es ist nicht die offizielle API von Meta, Mistral, OpenAI oder einem anderen Anbieter. Es bietet zwei Methoden an, POST /v1/chat/completions und GET /v1/models, und verarbeitet nur Text. Wenn du noch einen Schlüssel benötigst, erklärt die API-Schlüssel-Seite die Anmeldung und das kostenlose Testguthaben.
Die Antwort lesen
Eine erfolgreiche Antwort ist ein JSON-Objekt in der üblichen Form. Der Text befindet sich unter choices[0].message.content, der Stoppgrund ist in choices[0].finish_reason, und Token-Anzahlen sind in usage enthalten.
{
"id": "chatcmpl-...",
"object": "chat.completion",
"model": "uncensored",
"choices": [
{
"index": 0,
"message": {"role": "assistant", "content": "An API key is a secret string..."},
"finish_reason": "stop"
}
],
"usage": {"prompt_tokens": 31, "completion_tokens": 48, "total_tokens": 79}
}
Ein finish_reason von stop bedeutet, dass das Modell seine Antwort beendet hat. Ein Wert von length bedeutet, dass es eine Token-Grenze erreicht hat, also erhöhe max_tokens oder lasse es ungesetzt. Die Header sind ebenfalls wichtig: X-Request-Id identifiziert den Aufruf für den Support, X-Balance-USD zeigt dein verbleibendes Guthaben an, und X-RateLimit-Limit-Requests und X-RateLimit-Limit-Concurrency melden deine Limits.
Nachrichten und Rollen
Das messages-Array ist die gesamte Konversation in der richtigen Reihenfolge. Jeder Eintrag hat eine role und content.
- system legt Verhalten, Ton und Regeln fest. Setze es an den Anfang.
- user ist das, was die Person getippt hat.
- assistant ist das, was das Modell zuvor in der Konversation gesagt hat.
- tool enthält das Ergebnis eines Function Calling, falls du Tool Calling verwendest.
Das Modell kennt nur das, was im Array steht. Zwischen Anfragen wird nichts gespeichert, daher speichert der Server keine Sitzung für dich. Das ist das Wichtigste, das man über Chat-Endpunkte verstehen muss, und es erklärt, warum ein "Chat" mit jedem Schritt mehr kostet: Der Verlauf, den du sendest, wird jedes Mal als Input abgerechnet.
Multi-Turn-Chat in Python
Um eine Konversation zu führen, behalte eine Liste, füge die Benutzernachricht hinzu, rufe die API auf, füge die Assistentenantwort hinzu und wiederhole dies. Dies ist ein vollständiger Terminal-Chat.
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
history = [{"role": "system", "content": "You are a friendly, direct assistant."}]
while True:
text = input("you> ").strip()
if not text:
break
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.7,
)
answer = resp.choices[0].message.content
history.append({"role": "assistant", "content": answer})
print("bot>", answer)
print(f" [{resp.usage.prompt_tokens} in / {resp.usage.completion_tokens} out]")
Beobachte die eckigen Zahlen beim Chatten. Die "in"-Anzahl steigt bei jedem Schritt, da sie alles bisher Gesagte enthält. Dieses Wachstum ist normal und ist auch dein Haupthebel zur Kostenkontrolle, wie unten beschrieben.
Gestreamte Antworten in Node
Für eine Chat-Schnittstelle möchtest du, dass Text erscheint, während er generiert wird. Setze stream: true und die API sendet SSE. Das OpenAI Node SDK packt dies in einen asynchronen Iterator.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.mistralapikey.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a four-line poem about debugging." }],
stream: true,
});
for await (const chunk of stream) {
const piece = chunk.choices[0]?.delta?.content ?? "";
process.stdout.write(piece);
}
process.stdout.write("\n");
Die Nutzung wird am Ende des Streams gemeldet, sodass du Token-Anzahlen weiterhin protokollieren kannst, ohne einen zweiten Aufruf. Ein betrieblicher Hinweis: Eine gestreamte Anfrage belegt ihren Concurrency-Slot, bis der Stream endet. Wenn ein Benutzer einen Tab schließt, brich die Anfrage auf deiner Seite ab, damit der Slot früher frei wird.
Verfügbare Parameter
Die Standard-Sampling-Steuerungen werden an das Modell weitergegeben. Dies sind die, die du am häufigsten ändern wirst.
| Feld | Was es tut | Praktischer Tipp |
|---|---|---|
temperature | Zufälligkeit der Wortwahl | 0 bis 0,3 für Extraktion, 0,7 bis 1,0 für kreativen Text |
top_p | Begrenzt das Sampling auf die wahrscheinlichsten Wörter | Ändere dies oder die Temperatur, selten beides |
max_tokens | Obergrenze für die Antwortlänge | Optional; setze es, um die Kosten bei offenen Prompts zu begrenzen |
stop | Sequenzen, die die Generierung beenden | Nützlich für zeilenbasierte Formate |
seed | Wiederholbares Sampling | Nützlich für Tests |
frequency_penalty, presence_penalty | Wiederholung vermeiden | Kleine Werte reichen weit |
response_format | JSON-Modus | Verwende {"type":"json_object"} und beschreibe die Schlüssel im Prompt |
Tool Calling ist über tools und tool_choice verfügbar. Die Schnellstart-Anleitung behandelt die Einrichtung für gängige SDKs.
Was eine Konversation kostet
Die Preise betragen $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token, vom Prepaid-Guthaben. Das Kontextfenster beträgt 100.000 Token für Prompt und Antwort zusammen. Da der Verlauf erneut gesendet wird, steigen die Kosten eines Chats schneller als die Anzahl der Nachrichten.
Nimm einen Chat, bei dem jede Benutzer-Nachricht etwa 100 Token umfasst und jede Antwort etwa 200 Token, plus eine System-Nachricht mit 200 Token. Durchgang 1 sendet 300 Input-Token. Durchgang 10 sendet etwa 200 + 10 x 100 + 9 x 200 = 3.000 Input-Token. Durchgang 30 sendet etwa 200 + 30 x 100 + 29 x 200 = 9.000.
Addiere alle 30 Durchgänge der Eingabe zusammen: Die Gesamtsumme beträgt 30 x 200 + 100 x (1 + 2 + ... + 30) + 200 x (0 + 1 + ... + 29) = 6.000 + 46.500 + 87.000 = 139.500 Input-Token. Ausgabe sind 30 x 200 = 6.000 Token. Kosten: 139.500 / 1M x $0,15 = $0,020925, plus 6.000 / 1M x $0,50 = $0,003. Der gesamte 30-Durchgänge-Chat kostet etwa $0,024. Günstig, aber beachte, dass Input 23-mal größer ist als Ausgabe, und es würde mit dem Quadrat der Länge wachsen, wenn du nie kürzt.
Möglichkeiten, es niedrig zu halten: Alte Schritte löschen oder zusammenfassen, sobald der Verlauf eine von dir gewählte Größe überschreitet, die Systemnachricht kurz halten und max_tokens setzen, wenn du keine langen Antworten benötigst. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet. Aufladungsbeträge und Bonusstufen sind auf der Preisseite aufgeführt.
Verlauf kürzen, ohne den Chat zu brechen
Wenn eine Konversation lang wird, hast du zwei Möglichkeiten: Bezahle bei jedem Schritt für den vollständigen Verlauf oder kürze ihn. Eine einfache Regel ist, die Systemnachricht und die letzten mehreren Schritte zu behalten. Diese Funktion macht das und lässt den Rest deiner Schleife unverändert.
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
def trimmed(history, keep=8):
system = history[:1]
rest = history[1:]
return system + rest[-keep:]
resp = client.chat.completions.create(
model="uncensored",
messages=trimmed(history),
)
Der Preis des Kürzens ist, dass das Modell vergisst, was es nicht mehr sieht. Für Support-Bots ist das in Ordnung. Für lange Geschichten magst du es vorziehen, das Modell einmal aufzufordern, eine kurze Zusammenfassung der alten Schritte zu schreiben, sie als Systemnotiz zu speichern und die Originale zu löschen. Das kostet einen zusätzlichen Aufruf, erhält aber die Handlung.
Eine nützliche Systemnachricht schreiben
Halte sie kurz und konkret: Wer der Assistent ist, wie lange Antworten sein sollen und alle Formatregeln. "Du bist ein Support-Agent für einen Fahrradladen. Antworte in maximal drei Sätzen und stelle eine Frage, wenn die Anfrage unklar ist" erreicht mehr als eine Seite allgemeiner Tugenden. Jedes Wort davon wird bei jedem Schritt als Input abgerechnet, daher fügt eine 1.000-Token-Systemnachricht $0,00015 zu jeder Anfrage hinzu.
Fehler und Limits
Ein vollständiger Schlüssel erlaubt 8 gleichzeitige Anfragen und 300 Anfragen pro Minute; ein Trial-Schlüssel erlaubt 2 und 60. Der maximale Anfragekörper beträgt 8 MB. Überschreitest du ein Limit, erhältst du HTTP 429 mit einer dieser Bedeutungen:
- Fehlercode
rate_limited: zu viele Anfragen pro Minute. Verteile sie. - Fehlercode
concurrency: zu viele gleichzeitige Anfragen. Stelle sie in eine Warteschlange. - Ein
Retry-After: 5-Header: temporäre Überlastung. Warte 5 Sekunden und wiederhole die Anfrage.
Ein 401-Fehler bedeutet, dass der Schlüssel fehlt oder falsch ist. Halte Schlüssel aus Frontend-Code fern; rufe die API von deinem Server aus auf. Wenn du von einer Mistral-Einrichtung wechselst, findest du auf der Mistral-API-Schlüssel-Seite Informationen zum Zugriff mit diesem Dienst.
Verpacke Aufrufe in Produktionscode mit einer Wiederholung mit kurzer Wartezeit, wie es die OpenAI-SDKs bereits für einige Fehler tun, und protokolliere den X-Request-Id-Wert neben jedem Fehler. Wenn etwas falsch aussieht, ist diese ID der schnellste Weg, um Support auf die genaue Anfrage hinzuweisen. Setze auch einen Client-seitigen Timeout: Eine lange Vervollständigung bei einem großen Prompt kann eine Weile dauern, und du möchtest nicht, dass eine steckengebliebene Verbindung einen deiner 8 Parallelitäts-Slots blockiert.
Der Dienst erzeugt keine sexuellen Inhalte mit Minderjährigen, und Prompts werden nicht zum Training verwendet.
Weitere Anleitungen
Fragen und Antworten
Was bedeutet OpenAI-kompatibel?
Das bedeutet, dass der Endpunkt das gleiche Anfrageformat wie die OpenAI Chat Completions API akzeptiert, sodass OpenAI-SDKs und Tools funktionieren, nachdem du die Basis-URL und den Schlüssel geändert hast.
Merkt sich der Server die Konversation?
Nein. Sende den vollständigen Nachrichtenverlauf mit jeder Anfrage. Der Server speichert keine Sitzung zwischen Aufrufen.
Welche Endpunkte sind verfügbar?
POST /v1/chat/completions und GET /v1/models. Der Dienst ist nur Text, ohne Bild-, Audio- oder Embedding-Endpunkte.
Wie kann ich die Antwort streamen?
Setze stream auf true. Die API sendet Server-Sent Events und meldet die Nutzung am Ende des Streams.
Welchen Modellnamen verwende ich?
Verwende uncensored als Modell-ID in jeder Anfrage.
Dein Schlüssel ist nur einen Schritt entfernt
Erstelle ein Konto, kopiere den Schlüssel, ändere die Basis-URL. Das ist die gesamte Einrichtung.