TR ▾
mistralapikey.com

Sansürsüz Mistral API alternatifi

API anahtarı al
Temel URL
https://api.mistralapikey.com/v1
Model
sansürsüz

OpenAI Uyumlu API Sohbeti: Python, Node ve curl

OpenAI uyumlu bir API sohbet çağrısı, bir mesaj listesi içeren tek bir POST ve modelden gelen tek bir yanıttan oluşur. Bu kılavuz, bir sansürsüz uç noktası örnek olarak kullanılarak istek, çoklu dönüş konuşmaları, akış ve karşılaşabileceğiniz hataları adım adım açıklar.

güncellendi

Bir cihaz ve bir sunucu kulesi arasında hafif küpler alışverişini gösteren API sohbet isteklerini simgeleyen sohbet baloncukları

Bir dakikadaki istek

OpenAI sohbet formatını destekleyen her istemci bu hizmetle iletişim kurabilir. Temel URL ve anahtarınızı değiştirip geri kalanını aynen bırakmanız yeterlidir. Burada temel URL https://api.mistralapikey.com/v1 ve model ID uncensored'dir. Yetkilendirme standart bir Authorization: Bearer başlığı ile yapılır.

İlk bir istek şöyle görünür:

curl https://api.mistralapikey.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what an API key is in two sentences."}
    ]
  }'

Bu, yasal yetişkin kullanımı için içerik reddi olmadan yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı modeli çalıştıran bağımsız bir hizmettir. Meta, Mistral, OpenAI veya başka bir satıcının resmi API'si değildir. POST /v1/chat/completions ve GET /v1/models olmak üzere iki yöntem sunar ve yalnızca metin işler. Hâlâ bir anahtara ihtiyacınız varsa, API anahtarı sayfası kayıt ve deneme kredisi hakkında açıklar.

Yanıtı okuma

Başarılı bir yanıt, standart biçimde bir JSON nesnesidir. Metin choices[0].message.content'de, durma nedeni choices[0].finish_reason'de ve token sayıları usage içinde yer alır.

{
  "id": "chatcmpl-...",
  "object": "chat.completion",
  "model": "uncensored",
  "choices": [
    {
      "index": 0,
      "message": {"role": "assistant", "content": "An API key is a secret string..."},
      "finish_reason": "stop"
    }
  ],
  "usage": {"prompt_tokens": 31, "completion_tokens": 48, "total_tokens": 79}
}

finish_reason değeri stop ise model yanıtını tamamlamış demektir. length değeri bir token sınırına ulaşıldığını gösterir; bu durumda max_tokens değerini artırın veya onu ayarlamayın. Başlıklar da önemlidir: X-Request-Id destek için çağrıyı tanımlar, X-Balance-USD kalan kredinizi gösterir ve X-RateLimit-Limit-Requests ile X-RateLimit-Limit-Concurrency limitlerinizi bildirir.

Mesajlar ve roller

messages dizisi konuşmanın tamamını sırayla içerir. Her öğe bir role ve content içerir.

  • system davranışı, tonu ve kuralları belirler. İlk sıraya koyun.
  • user, kişinin yazdığıdır.
  • assistant, modelin konuşma sırasında daha önce söylediğidir.
  • tool fonksiyon çağırma kullanıyorsanız bir fonksiyon çağırmanın sonucunu taşır.

Model yalnızca dizidekileri bilir. İstekler arasında bir şey hatırlanmaz; bu nedenle sunucu sizin için oturum tutmaz. Sohbet uç noktaları hakkında anlaşılması gereken tek en önemli şey budur ve bir "sohbetin" her dönüşte daha pahalı olmasının nedenini açıklar: gönderdiğiniz geçmiş her seferinde giriş olarak faturalandırılır.

Python ile çok adımlı sohbet

Bir konuşma sürdürmek için bir liste tutun, kullanıcı mesajını ekleyin, API'yi çağırın, asistan yanıtını ekleyin ve tekrarlayın. Bu tam bir terminal sohbetidir.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapikey.com/v1",
    api_key="YOUR_API_KEY",
)

history = [{"role": "system", "content": "You are a friendly, direct assistant."}]

while True:
    text = input("you> ").strip()
    if not text:
        break
    history.append({"role": "user", "content": text})

    resp = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.7,
    )
    answer = resp.choices[0].message.content
    history.append({"role": "assistant", "content": answer})

    print("bot>", answer)
    print(f"   [{resp.usage.prompt_tokens} in / {resp.usage.completion_tokens} out]")

Sohbet ederken köşeli parantez içindeki sayılara dikkat edin. "Giriş" sayısı her dönüşte artar çünkü daha önce söylenen her şeyi içerir. Bu büyüme normaldir ve ayrıca aşağıda ele alınacak olan maliyet kontrolündeki başlıca faktördür.

Node ile akış yanıtları

Bir sohbet arayüzü için metnin oluşturulurken görünmesini istersiniz. stream: true ayarlayın; API sunucu tarafından gönderilen olaylar gönderir. OpenAI Node SDK bunu bir async iterator içinde sarar.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.mistralapikey.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a four-line poem about debugging." }],
  stream: true,
});

for await (const chunk of stream) {
  const piece = chunk.choices[0]?.delta?.content ?? "";
  process.stdout.write(piece);
}
process.stdout.write("\n");

Kullanım bilgisi akışın sonunda bildirilir; bu nedenle ikinci bir çağrı yapmadan token sayılarını günlüğe kaydedebilirsiniz. Bir işlemsel detay: akışlı bir istek, akış bitene kadar eşzamanlılık slotunu tutar. Bir kullanıcı bir sekmeyi kapatırsa, slotun daha erken serbest kalması için isteği kendi tarafınızda iptal edin.

Kullanılabilecek parametreler

Standart örnekleme kontrolleri modele iletilir. Bunlar en çok dokunacağınız parametrelerdir.

AlanNe yaptığıPratik ipucu
temperatureKelime seçiminin rastgeleliğiÇıkarma için 0 ile 0.3 arasında, yaratıcı metin için 0.7 ile 1.0 arasında
top_pEn olası kelimelerle örnekleme sınırlarBunu veya temperature parametresini değiştirin; nadiren ikisini birden
max_tokensYanıt uzunluğu için üst sınırİsteğe bağlı; açık uçlu istemlerde maliyeti sınırlamak için ayarlayın
stopÜretimi sonlandıran dizilerSatır tabanlı formatlar için kullanışlıdır
seedTekrarlanabilir örneklemeTestler için kullanışlıdır
frequency_penalty, presence_penaltyTekrarlamayı azaltırKüçük değerler büyük etki yaratır
response_formatJSON modu{"type":"json_object"} kullanın ve anahtarları istemde açıklayın

Fonksiyon çağırma, tools ve tool_choice aracılığıyla mevcuttur. hızlı başlangıç, yaygın SDK'lar için kurulumu kapsar.

Bir konuşmanın maliyeti

Fiyatlar, ön ödemeli krediden düşülerek 1M girdi token başına $0.15 ve 1M çıktı token başına $0.50'dir. Bağlam penceresi, istem ve yanıt birlikte 100.000 token içerebilir. Geçmiş yeniden gönderildiği için, bir sohbetin maliyeti mesaj sayısından daha hızlı artar.

Her kullanıcı mesajının yaklaşık 100 token ve her yanıtın yaklaşık 200 token olduğu bir sohbet düşünün; ayrıca 200 token'lık bir sistem mesajı vardır. Dönüş 1, 300 giriş token'ı gönderir. Dönüş 10, yaklaşık 200 + 10 x 100 + 9 x 200 = 3.000 giriş token'ı gönderir. Dönüş 30, yaklaşık 200 + 30 x 100 + 29 x 200 = 9.000 giriş token'ı gönderir.

30 dönüşün tüm girdilerini toplayın: toplam 30 x 200 + 100 x (1 + 2 + ... + 30) + 200 x (0 + 1 + ... + 29) = 6.000 + 46.500 + 87.000 = 139.500 girdi token eder. Çıktı 30 x 200 = 6.000 token eder. Maliyet: 139.500 / 1M x $0.15 = $0.020925, artı 6.000 / 1M x $0.50 = $0.003. Tüm 30 dönüşlü sohbet yaklaşık $0.024 eder. Ucuz, ancak girdinin çıktının 23 katı olduğunu ve uzunluk asla kırpılmazsa kare oranında artacağını unutmayın.

Maliyeti düşürme yolları: Geçmiş belirli bir boyutu aştığında eski dönüşleri atlayın veya özetleyin, sistem istemini kısa tutun ve uzun yanıtlara gerek yoksa max_tokens ayarlayın. Başarısız veya reddedilen istekler faturalandırılmaz. Bakiye yükleme miktarları ve bonus katmanları fiyatlandırma sayfasında listelenmiştir.

Geçmişi kısaltma

Bir konuşma uzunlaştığında iki seçeneğiniz vardır: Her dönüş için tam geçmişi ödemek veya geçmişi kesmek (atmak). Basit bir kural, sistem mesajını ve son birkaç dönüşü tutmaktır. Bu işlev bunu yapar ve döngünüzün geri kalanını değiştirmez.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapikey.com/v1",
    api_key="YOUR_API_KEY",
)

def trimmed(history, keep=8):
    system = history[:1]
    rest = history[1:]
    return system + rest[-keep:]

resp = client.chat.completions.create(
    model="uncensored",
    messages=trimmed(history),
)

Geçmişi kısaltmanın bedeli, modelin artık görmediği şeyleri unumasıdır. Destek botları için bu uygundur. Uzun hikayeler için modelden eski dönüşlerin kısa bir özetini yazmasını, bunu bir sistem notu olarak kaydetmenizi ve orijinal mesajları kaldırmanızı tercih edebilirsiniz. Bu, bir ekstra çağrı maliyeti yaratır ancak hikayeyi korur.

Faydalı bir sistem mesajı yazma

Kısa ve somut tutun: asistanın kim olduğu, yanıtların ne kadar uzun olması gerektiği ve herhangi bir format kuralı. "Bir bisiklet dükkanı için destek temsilcisisiniz. En fazla üç cümleyle yanıt verin ve istek belirsizse bir soru sorun" ifadesi, genel bir bilgi yığınından daha fazlasını yapar. Her kelime her dönüşte giriş olarak faturalandırılır; bu nedenle 1.000 token'lık bir sistem mesajı her istek için $0.00015 ekler.

Hatalar ve limitler

Tam bir anahtar 8 eşzamanlı istek ve dakikada 300 istek izni verir; deneme anahtarı 2 ve 60 izni verir. Maksimum istek gövdesi 8 MB'tır. Bir limiti aşarsanız HTTP 429 alırsınız; bu şu anlamlara gelir:

  • rate_limited hata kodu: dakikada çok fazla istek gönderiyorsunuz. İstekleri aralıklı yapın.
  • concurrency hata kodu: aynı anda çok fazla istek gönderiyorsunuz. İstekleri kuyruğa alın.
  • Retry-After: 5 başlığı: geçici aşırı yüklenme. 5 saniye bekleyin ve tekrar deneyin.

401 hatası, anahtarın eksik veya yanlış olduğunu gösterir. Anahtarları ön uç kodunda bulundurmayın; API'yi sunucunuzdan çağırın. Mistral kurulumundan geçiş yapıyorsanız, bu hizmetle erişim Mistral API anahtarı sayfası tarafından kapsanır.

Üretim kodu için, OpenAI SDK'ları bazı hatalar için zaten yaptıkları gibi, kısa bir bekleme süresiyle çağrıları bir yeniden denemeye sarın ve her hata yanına X-Request-Id değerini loglayın. Bir şeyler yanlış görünürse, bu ID, destek'i kesin istek noktasına yönlendirmenin en hızlı yoludur. Ayrıca bir istemci tarafı zaman aşımı ayarlayın: büyük bir istemde uzun bir tamamlama işlemi zaman alabilir ve tıkanmış bir bağlantının 8 eşzamanlılık slotunuzdan birini tutmasını istemezsiniz.

Hizmet, reşit olmayanlar ile cinsel içerikli içerik üretmez ve istemler eğitim için kullanılmaz.

Sorular ve cevaplar

OpenAI uyumlu ne anlama gelir?

Bu, uç noktanın OpenAI sohbet tamamlamaları API'si ile aynı istek formatını kabul ettiği anlamına gelir, böylece temel URL ve anahtarı değiştirdikten sonra OpenAI SDK'ları ve araçları çalışır.

Sunucu konuşmayı hatırlıyor mu?

Hayır. Her istek için tam mesaj geçmişini gönderin. Sunucu, çağrılar arasında oturum tutmaz.

Hangi uç noktalar mevcut?

POST /v1/chat/completions ve GET /v1/models. Hizmet yalnızca metin içindir, resim, ses veya gömme uç noktaları yoktur.

Yanıtı nasıl akışa alırım?

stream'i true olarak ayarlayın. API, sunucu tarafından gönderilen olaylar gönderir ve akışın sonunda kullanım raporlar.

Hangi model adını kullanmalıyım?

Her istekte model kimliği olarak uncensored'ı kullanın.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın, base URL'yi değiştirin. Kurulum bu kadar.