ID ▾
mistralapikey.com

Alternatif API Mistral tanpa sensor

Dapatkan kunci API
URL dasar
https://api.mistralapikey.com/v1
Model
tanpa sensor

Chat API Kompatibel OpenAI: Python, Node, dan curl

Panggilan chat api yang kompatibel dengan openai adalah satu POST dengan daftar pesan dan satu balasan dari model. Panduan ini membahas permintaan, percakapan multi-gilir, streaming, dan error yang mungkin Anda temui, menggunakan endpoint uncensored sebagai contoh.

Diperbarui

Gelembung chat yang saling bertukar kubus cahaya antara perangkat dan menara server, menggambarkan permintaan chat API

Permintaan dalam satu menit

Klien apa pun yang dapat berbicara dengan format chat OpenAI dapat berbicara dengan layanan ini. Anda mengubah dua hal, base URL dan kunci, dan mempertahankan yang lain. Di sini base URL adalah https://api.mistralapikey.com/v1 dan model ID adalah uncensored. Autentikasi adalah header Authorization: Bearer standar.

Permintaan pertama terlihat seperti ini:

curl https://api.mistralapikey.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what an API key is in two sentences."}
    ]
  }'

Ini adalah layanan independen yang menjalankan satu model open-weight, yang disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API resmi dari Meta, Mistral, OpenAI, atau vendor lain. Layanan ini mengekspos dua metode, POST /v1/chat/completions dan GET /v1/models, dan hanya menangani teks. Jika Anda masih membutuhkan kunci, halaman kunci API menjelaskan pendaftaran dan kredit uji coba.

Membaca respons

Balasan yang sukses adalah objek JSON dengan bentuk umum. Teks ada di choices[0].message.content, alasan berhenti ada di choices[0].finish_reason, dan hitungan token ada di usage.

{
  "id": "chatcmpl-...",
  "object": "chat.completion",
  "model": "uncensored",
  "choices": [
    {
      "index": 0,
      "message": {"role": "assistant", "content": "An API key is a secret string..."},
      "finish_reason": "stop"
    }
  ],
  "usage": {"prompt_tokens": 31, "completion_tokens": 48, "total_tokens": 79}
}

finish_reason bernilai stop berarti model telah menyelesaikan jawabannya. Nilai length berarti mencapai batas token, sehingga naikkan max_tokens atau biarkan tidak diatur. Header juga penting: X-Request-Id mengidentifikasi panggilan untuk dukungan, X-Balance-USD menunjukkan sisa saldo Anda, dan X-RateLimit-Limit-Requests serta X-RateLimit-Limit-Concurrency melaporkan batas Anda.

Pesan dan peran

Array messages adalah seluruh percakapan, sesuai urutan. Setiap item memiliki role dan content.

  • system mengatur perilaku, nada, dan aturan. Letakkan di awal.
  • user adalah apa yang diketik oleh pengguna.
  • assistant adalah apa yang dikatakan model sebelumnya dalam percakapan.
  • tool membawa hasil pemanggilan fungsi, jika Anda menggunakan tool calling.

Model hanya mengetahui apa yang ada di dalam array. Tidak ada yang diingat antar permintaan, sehingga server tidak menyimpan sesi untuk Anda. Ini adalah hal paling penting yang harus dipahami tentang endpoint chat, dan ini menjelaskan mengapa "chat" biayanya lebih mahal setiap giliran: riwayat yang Anda kirim ditagih sebagai input setiap kali.

Chat multi-gilir dalam Python

Untuk menjaga percakapan, simpan daftar, tambahkan pesan pengguna, panggil API, tambahkan balasan asisten, dan ulangi. Ini adalah chat terminal lengkap.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapikey.com/v1",
    api_key="YOUR_API_KEY",
)

history = [{"role": "system", "content": "You are a friendly, direct assistant."}]

while True:
    text = input("you> ").strip()
    if not text:
        break
    history.append({"role": "user", "content": text})

    resp = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.7,
    )
    answer = resp.choices[0].message.content
    history.append({"role": "assistant", "content": answer})

    print("bot>", answer)
    print(f"   [{resp.usage.prompt_tokens} in / {resp.usage.completion_tokens} out]")

Perhatikan angka dalam kurung saat Anda mengobrol. Hitungan "in" meningkat setiap giliran karena mencakup semua yang telah diucapkan sejauh ini. Pertumbuhan itu normal dan juga menjadi alat utama Anda untuk mengontrol biaya, yang dibahas di bawah ini.

Streaming balasan di Node

Untuk antarmuka obrolan, Anda ingin teks muncul saat teks tersebut dihasilkan. Atur stream: true dan API akan mengirimkan peristiwa yang dikirim server. SDK Node.js OpenAI membungkus ini dalam iterator async.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.mistralapikey.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a four-line poem about debugging." }],
  stream: true,
});

for await (const chunk of stream) {
  const piece = chunk.choices[0]?.delta?.content ?? "";
  process.stdout.write(piece);
}
process.stdout.write("\n");

Penggunaan dilaporkan di akhir aliran, sehingga Anda masih dapat mencatat jumlah token tanpa panggilan kedua. Satu detail operasional: permintaan streaming memegang slot konkurensinya hingga aliran selesai. Jika pengguna menutup tab, batalkan permintaan di sisi Anda agar slot segera dibebaskan.

Parameter yang dapat Anda gunakan

Kontrol sampling standar diteruskan ke model. Ini adalah yang paling sering Anda ubah.

BidangApa yang dilakukannyaTips praktis
temperatureKeacakan pilihan kata0 hingga 0.3 untuk ekstraksi, 0.7 hingga 1.0 untuk teks kreatif
top_pMembatasi sampling pada kata-kata yang paling mungkinUbah ini atau suhu, jarang keduanya
max_tokensBatas atas panjang balasanOpsional; atur untuk membatasi biaya pada prompt terbuka
stopUrutan yang mengakhiri generasiBerguna untuk format berbasis baris
seedPengambilan sampel yang dapat diulangBerguna untuk pengujian
frequency_penalty, presence_penaltyMengurangi pengulanganNilai kecil memberikan dampak besar
response_formatMode JSONGunakan {"type":"json_object"} dan deskripsikan kunci dalam prompt

Pemanggilan alat tersedia melalui tools dan tool_choice. quickstart mencakup pengaturan untuk SDK umum.

Biaya percakapan

Harga adalah $0,15 per 1M token input dan $0,50 per 1M token output, dari saldo prabayar. Jendela konteks adalah 100.000 token untuk prompt dan balasan bersama-sama. Karena riwayat dikirim ulang, biaya obrolan tumbuh lebih cepat daripada jumlah pesan.

Ambil chat di mana setiap pesan pengguna sekitar 100 token dan setiap balasan sekitar 200 token, ditambah pesan sistem 200 token. Giliran 1 mengirim 300 token input. Giliran 10 mengirim sekitar 200 + 10 x 100 + 9 x 200 = 3.000 token input. Giliran 30 mengirim sekitar 200 + 30 x 100 + 29 x 200 = 9.000.

Jumlahkan semua 30 giliran input: totalnya adalah 30 x 200 + 100 x (1 + 2 + ... + 30) + 200 x (0 + 1 + ... + 29) = 6.000 + 46.500 + 87.000 = 139.500 token input. Output adalah 30 x 200 = 6.000 token. Biaya: 139.500 / 1M x $0.15 = $0.020925, ditambah 6.000 / 1M x $0.50 = $0.003. Seluruh chat 30 giliran mencapai sekitar $0.024. Murah, tetapi perhatikan bahwa input 23 kali lebih besar daripada output, dan itu akan tumbuh dengan kuadrat panjangnya jika Anda tidak pernah memangkasnya.

Cara untuk menurunkannya: hapus atau ringkas giliran lama setelah riwayat melebihi ukuran yang Anda pilih, pertahankan prompt sistem tetap pendek, dan atur max_tokens ketika Anda tidak memerlukan balasan panjang. Permintaan yang gagal atau ditolak tidak dikenakan biaya. Jumlah top-up dan tier bonus tercantum di halaman harga.

Memangkas riwayat tanpa merusak chat

Setelah percakapan menjadi panjang, Anda memiliki dua pilihan: membayar untuk seluruh riwayat setiap giliran, atau memotongnya. Aturan sederhana adalah menjaga pesan sistem dan beberapa giliran terakhir. Fungsi ini melakukan itu dan membiarkan sisa loop Anda tetap tidak berubah.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapikey.com/v1",
    api_key="YOUR_API_KEY",
)

def trimmed(history, keep=8):
    system = history[:1]
    rest = history[1:]
    return system + rest[-keep:]

resp = client.chat.completions.create(
    model="uncensored",
    messages=trimmed(history),
)

Biaya pemangkasan adalah model lupa apa yang tidak lagi dilihatnya. Untuk bot dukungan, ini tidak masalah. Untuk cerita panjang, Anda mungkin lebih memilih meminta model untuk menulis ringkasan singkat dari giliran lama sekali, menyimpannya sebagai catatan sistem, dan menghapus aslinya. Itu membutuhkan satu panggilan tambahan tetapi mempertahankan alur cerita.

Menulis pesan sistem yang berguna

Jaga agar tetap singkat dan konkret: siapa asisten itu, seberapa panjang jawaban harusnya, dan aturan format apa pun. "Anda adalah agen dukungan untuk toko sepeda. Jawab dalam maksimal tiga kalimat dan ajukan pertanyaan jika permintaan tidak jelas" melakukan lebih banyak daripada satu halaman kebaikan umum. Setiap kata dari itu ditagih sebagai input setiap giliran, sehingga pesan sistem 1.000 token menambahkan $0,00015 ke setiap permintaan.

Error dan batas

Kunci penuh mengizinkan 8 permintaan paralel dan 300 permintaan per menit; kunci uji coba mengizinkan 2 dan 60. Body permintaan maksimum adalah 8 MB. Melebihi batas dan Anda menerima HTTP 429, dengan salah satu arti berikut:

  • Kode kesalahan rate_limited: terlalu banyak permintaan per menit. Jarakkan permintaan tersebut.
  • Kode kesalahan concurrency: terlalu banyak permintaan pada waktu yang sama. Antrikan permintaan tersebut.
  • Header Retry-After: 5: kelebihan beban sementara. Tunggu 5 detik dan coba lagi.

401 berarti kunci tidak ada atau salah. Jauhkan kunci dari kode front-end; panggil API dari server Anda. Jika Anda pindah dari pengaturan Mistral, halaman kunci API Mistral mencakup akses dengan layanan ini.

Untuk kode produksi, bungkus panggilan dalam percobaan ulang dengan jeda singkat, seperti yang sudah dilakukan SDK OpenAI untuk beberapa kegagalan, dan log nilai X-Request-Id di samping setiap kesalahan. Ketika sesuatu terlihat salah, ID tersebut adalah cara tercepat untuk menunjuk support ke permintaan yang tepat. Atur juga batas waktu sisi klien: penyelesaian panjang pada prompt besar dapat memakan waktu, dan Anda tidak ingin koneksi yang macet menahan salah satu dari 8 slot konkurensi Anda.

Layanan tidak menghasilkan konten seksual yang melibatkan anak di bawah umur, dan prompt tidak digunakan untuk pelatihan.

Tanya jawab

Apa artinya kompatibel dengan OpenAI?

Artinya endpoint menerima format permintaan yang sama dengan API penyelesaian obrolan OpenAI, sehingga SDK dan alat OpenAI berfungsi setelah Anda mengubah URL dasar dan kunci.

Apakah server mengingat percakapan?

Tidak. Kirimkan riwayat pesan lengkap dengan setiap permintaan. Server tidak menyimpan sesi antar panggilan.

Endpoint mana yang tersedia?

POST /v1/chat/completions dan GET /v1/models. Layanan hanya teks, tanpa endpoint gambar, audio, atau embedding.

Bagaimana cara mengaktifkan streaming balasan?

Atur stream menjadi true. API mengirim peristiwa yang dikirim server dan melaporkan penggunaan di akhir aliran.

Nama model apa yang harus Anda gunakan?

Gunakan uncensored sebagai ID model dalam setiap permintaan.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.