TR ▾
mistralapikey.com

Sansürsüz Mistral API alternatifi

API anahtarı al
Temel URL
https://api.mistralapikey.com/v1
Model
sansürsüz

Python ile Mistral API'si OpenAI SDK ile

Bir mistral api python betiği, standart openai paketi ile bu OpenAI uyumlu uç noktada çalışabilir: base URL'yi ayarlayın, anahtarınızı iletin ve uncensored modelini kullanın. Bu kılavuz; sohbet, akış, JSON, araçlar ve toplu işler için kodları içerir.

güncellendi

Cam kod bloklarından geçerek bir kapıya doğru uzanan bir ışık şeridi, Python'un bir API'yi çağırmasını temsil eder

Kısa özet

Bu hizmette bir mistral api python iş akışını kullanmak için Mistral'ın kendi istemci kitaplığına ihtiyacınız yoktur. Bu uç nokta OpenAI sohbet tamamlamaları formatını kullanır, bu nedenle standart openai paketi çalışır: paketi yükleyin, base URL'yi https://api.mistralapikey.com/v1 olarak ayarlayın, anahtarınızı iletin ve model kimliği olarak uncensored kullanın.

Gerekli bir not: bu Mistral'ın resmi API'si değildir ve Mistral ile bağlantılı değildir. Bağımsız bir sağlayıcı tarafından işletilen, yasal yetişkin kullanımı için içerik reddi olmadan yanıt vermeye ayarlanmış tek bir açık ağırlıklı modele sahip ayrı bir servistir. Mistral API anahtarı hakkındaki sayfa, buradaki anahtarların diğer servislerle nasıl ilişkili olduğunu açıklar.

pip install openai
from openai import OpenAI

client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a haiku about retries."}],
)
print(r.choices[0].message.content)

Mistral tarzı kodu satır satır çevirin

Mistral Python istemcisi için yazılmış kodunuz varsa, eşleme kısadır. Kütüphaneler değiştiği için, kullandığınız sürüm için istemcinin kendi belgelerindeki tam isimleri kontrol edin.

Mistral tarzı istemciBu uç nokta için OpenAI SDK
Mistral(api_key=key)OpenAI(base_url=URL, api_key=key)
client.chat.complete(...)client.chat.completions.create(...)
client.chat.stream(...)client.chat.completions.create(..., stream=True)
model="some-model-name"model="uncensored"
res.choices[0].message.contentr.choices[0].message.content (same)

Mesajlar, role ve content içeren bir sözlük listesi olarak kalır. choices, usage ve finish_reason dahil ortak alanlar için yanıt yapısı da aynıdır, bu alanları okuyan kodda değişiklik gerekmez.

Yan yana, değişiklik şöyle görünür:

# before (Mistral-style)
# from mistralai import Mistral
# client = Mistral(api_key=KEY)
# res = client.chat.complete(model="...", messages=msgs)

# after
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralapikey.com/v1", api_key=KEY)
res = client.chat.completions.create(model="uncensored", messages=msgs)
text = res.choices[0].message.content

Anahtarı koddan uzak tutun

Anahtarı ve URL'yi ortam değişkenlerinden okuyun ve sürüm kontrolünden uzak tutun.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.mistralapikey.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

Bir kabukta: export LLM_API_KEY=.... OpenAI SDK ayrıca açıkça geçirmediğinizde OPENAI_API_KEY ve OPENAI_BASE_URL değerlerini de okur; bu, istemciyi sizin için kuran araçlar için faydalıdır ancak eski bir değer kabukta kaldığında "yanlış anahtar" hatalarının klasik bir kaynağıdır. 401 ile bir hata aldığınızda, başka bir şey yapmadan önce hangi değişkenlerin ayarlandığını yazdırın.

API anahtarı sayfasından bir anahtar alın. Yeni hesaplar tek tıkla $0,50 deneme kredisi talep edebilir. Kart gerekmez, 7 gün geçerlidir ve kişi başı bir kezle sınırlıdır.

Akış, JSON ve araçlar

Akış, tokenları oluşturulurken döndürür. stream=True ayarlayın ve yineleyin. Kullanım verileri sonunda gelir.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain list comprehensions in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON modu geçerli bir JSON nesnesi ister. İsteminizde de JSON kelimesini belirtin ve her zaman savunmacı ayrıştırma yapın.

import json

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Return JSON with keys name and tags for a blog post about retries."}],
    response_format={"type": "json_object"},
)
data = json.loads(r.choices[0].message.content)

Araç çağırma tools ve tool_choice parametrelerini kullanır. Model tool_calls döndürdüğünde, fonksiyonu çalıştırın ve sonucu role: "tool" ve eşleşen tool_call_id ile bir mesaj olarak gönderin.

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Weather in Oslo?"}],
    tools=tools,
)
print(r.choices[0].message.tool_calls)

Asenkron ve paralel çağrılar

Toplu işler için asenkron istemciyi kullanın. Sürmekte olan isteklerin sayısını limitin altında tutun: tam anahtar 8 eşzamanlı istek ve dakika başına 300, deneme anahtarı ise 2 ve 60'a izin verir.

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(base_url="https://api.mistralapikey.com/v1", api_key="YOUR_KEY")
sem = asyncio.Semaphore(6)

async def one(prompt):
    async with sem:
        r = await client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
            max_tokens=200,
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Give a one-line tip number {i} about Python." for i in range(20)]
    results = await asyncio.gather(*(one(p) for p in prompts))
    print(len(results))

asyncio.run(main())

6'lık semafon, 8'in altında pay bırakır. Bu olmadan, 20 eşzamanlı çağrı concurrency ile HTTP 429 hatası alırdı. Akışların işlemler bitene kadar slotu tuttuğunu unutmayın.

Geçiş sırasında dikkat edilmesi gerekenler

Çoğu sorun, yeni uç noktadan ziyade eski kurulumdan taşınan varsayımlardan kaynaklanır.

  • Sabit kodlanmış model adları. Eski model dizgesi için kodunuzda arama yapın. Burada geçerli tek model kimliği uncensored'dir ve bunu client.models.list() ile doğrulayabilirsiniz.
  • Başka bir model için yazılmış istemler. Farklı bir model talimatları biraz farklı okur. Bir sistem istemi belirli bir ifadeye dayanıyorsa test edin. Çıktı formatına dair bir örnek içeren kısa, doğrudan talimatlar genellikle en iyi şekilde aktarılır.
  • Sağlayıcıya özgü parametreler. Yalnızca bir sağlayıcının istemcisinde bulunan parametreler yoksayılabilir veya reddedilebilir. Standart olanlara bağlı kalın: temperature, top_p, stop, seed, max_tokens ve penaltılar aktarılır.
  • Güvenli mod bayrakları. Eski kodunuz bir sağlayıcının denetim veya güvenlik seçeneğini açıyorsa, burada buna eşdeğer bir anahtar yoktur. Ürününüz filtreleme gerekiyorsa, çağrıdan önce ve sonra kendi tarafınızda ekleyin.
  • Token tahminleri. Farklı modeller tokenları farklı sayar, bu yüzden API'nin döndürdüğü usage alanından bütçeleme yapın, yerel bir tahminden değil.

Yeniden yazma yerine kısa bir test geçişi planlayın. Günlüklerinizden on istem alın, bunları yeni istemci üzerinden çalıştırın, yanıtları okuyun ve tonu istediğiniz gibi olana kadar sistem istemini ayarlayın.

Hatalar ve anlamları

  • 401. Yanlış veya eksik anahtar veya başka bir servisten gelen bir anahtar.
  • 404. Base URL'de /v1 eksik.
  • rate_limited ile 429. Dakikalık sınırdan fazlası. Bekleyin ve yavaşlayın.
  • concurrency ile 429. Aynı anda çok fazla istek gönderildi. Paralellik seviyenizi düşürün.
  • 429 ile Retry-After: 5. Geçici aşırı yüklenme. Beş saniye bekleyin ve tekrar deneyin.
import time
from openai import RateLimitError

def safe(prompt):
    for _ in range(4):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    return None

Başarısız veya reddedilen isteklerden dönen X-Request-Id başlığını kaydedin. Başarısız veya reddedilen istekler için ücret alınmaz.

Maliyet, sınırlar ve dahil olmayanlar

Faturalandırma kullandıkça öde: 1M giriş tokenı başına $0,15 ve 1M çıktı tokenı başına $0,50, ön ödemeli, abonelik ve süresi dolma yok. 1.500 giriş ve 400 çıktı tokenı içeren 1.000 istek gönderen bir betik 1.5M x $0,15 = $0,225 artı 0.4M x $0,50 = $0,20, yani $0,425 tutarındadır. Yüklemeler $20 ile $500 arasındadır, $50'den itibaren bonus vardır ve fiyatlandırma sayfası detayları listeler.

Bağlam penceresi 100.000 token kapasitesine sahiptir (istem ve tamamlama toplamı) ve gövde 8 MB'a kadar çıkabilir. Hizmet yalnızca metin içindir: resim, ses veya video yok, embedding yok ve fine-tuning yok; reşit olmayanları içeren cinsel içeriğe asla izin verilmez. Diğer istemcilerle de aynı API'yi kullanmak istiyorsanız, OpenAI uyumlu sohbet API'si makalesi Python dışı uygulamaları kapsar ve dokümantasyon her parametreyi listeler.

Sorular ve cevaplar

Mistral Python istemcisine ihtiyacım var mı?

Hayır. Standart openai paketi base URL https://api.mistralapikey.com/v1 ile çalışır. Mistral tarzı çağrılar chat.completions.create'a eşlenir.

Bu, Mistral'ın resmi API'si mi?

Hayır. Bu, bağımsız bir sağlayıcı tarafından işletilen ve Mistral ile bağlantısı olmayan, tek bir açık ağırlıklı modele sahip ayrı bir hizmettir.

Toplu işlerde 429 hatalarından nasıl kaçınırım?

Eşzamanlı çağrıları bir semafor ile 8'in altında tutun, dakikada 300 istek sınırında kalın ve 429 yanıtı aldıktan sonra bekleyin.

Test etmek için ücretsiz bir yol var mı?

Evet. Kayıt olduktan sonra API anahtarı sayfasından $0,50 deneme kredisi talep edebilirsiniz. Kredi için kart gerekmez ve 7 gün boyunca geçerlidir.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın, base URL'yi değiştirin. Kurulum bu kadar.