Mistral API Entegrasyon Rehberi

Temel URL Değişikliğini Anlama

Kodunuz, bir temel URL'ye istek gönderir ve bir anahtar ekler. Başka bir OpenAI-uyumlu uç noktaya geçmek için yalnızca bu iki değeri değiştirirsiniz. Yol /v1/chat/completions değişmez, böylece istek gövdesi ve yanıt gövdesi şekillerini korur.

Eski base URL'yi kodda değil, bir yapılandırma değerinde tutun. Bu sayede üretimde bir sorun çıkarsa tek bir adımda geri dönebilirsiniz.

SDK Uyumluluğu: OpenAI vs Mistral İstemcileri

Çoğu istemci kütüphanesi özel bir base URL kabul eder. Resmi OpenAI SDK'sı, LangChain ve LlamaIndex hepsi bunu yapar ve düz bir HTTP istemcisi de çalışır. base URL'i https://mistralapibaseurl.com/v1 ve yeni anahtarı geçirin.

• SDK sürümünü kontrol edin, çünkü çok eski sürümler temel URL (base URL) ayarını yok sayar.
• İstemcinin anahtarı Authorization header'ı bearer token olarak kullanın.

Model Kimliğini Yapılandırma

model id'sini gönderin uncensored. Hizmetin sunduğu tek model olduğu için kimlik istekler arasında değişmez ve model seçimi mantığına ihtiyacınız yoktur.

Kısa bir istemle tek bir istek çalıştırın. Bir yanıt ve kullanım bloğu, temel URL'nin, anahtarın ve model id uncensored'in doğru olduğunu gösterir.

Akış Yanıtları Uygulama

Ayarla stream: true cevabı sunucu tarafından gönderilen olaylar (server-sent events) olarak almak için. Her olay küçük bir metin parçası taşır ve son olay kullanım sayılarını içerir.

Parçaları (chunks) geldikçe gösterin ve tam metni bir arabellekte (buffer) tutun, böylece mesaj akış bittiğinde depolanır. İlk token'ın gelme süresini ölçün; bu sayı, sohbetin kullanıcı açısından ne kadar hızlı hissettirdiğini gösterir.

İşlev Çağırma ve Araçların Etkinleştirilmesi

Zaten kullandığınız aynı formatta tools dizisini geçirin. Model, bir işlev adı ve JSON argümanları içeren bir araç çağrısı döndürür. İşlevi kodunuzda çalıştırın, sonucu bir tool mesajı olarak geri gönderin ve nihai cevabı okuyun.

1. İki gerekli argümanla bir araç tanımlayın ve onu yalnızca test edin.
2. İki araç çağrısının ardışık olarak gerektiği bir durumu test edin.
3. Veri değiştiren herhangi bir şeyi çalıştırmadan önce argümanları doğrulayın.

Bağlam Pencerelerini ve Token'ları Yönetme

Bağlam penceresi 100.000 token'dır. Uzun sohbetler bu pencereyi doldurur, bu yüzden limit aşılmadan önce eski konuşmaları kısaltın veya özetleyin. Her istek 16.000 çıktı token'ına kadar döndürebilir ve varsayılan 2.048'dir, bu yüzden ayarlayın max_tokens beklediğiniz yanıtlar için.

Her yanıtın kullanım alanından tokenları sayın. Kelime sayılarından tahminler, kod ve İngilizce olmayan metinler için genellikle geniş bir hata payına sahiptir.

Hız Sınırlarını ve Yeniden Denemeleri İşleme

Her anahtar dakikada 300 istek ve 8 eşzamanlı istek yapmanıza olanak tanır. Sınırı aştığınızda 429 yanıtı alırsınız. Sadece 429 ve 5xx yanıtlarını, toplam bekleme süresi için bir üst sınır belirleyerek üstel geri çekilme ile yeniden deneyin.

Wiederholen Sie niemals einen 400- oder 401-Fehler, da dieselbe Anfrage auf dieselbe Weise fehlschlägt. Korrigieren Sie zuerst die Anfrage oder den Schlüssel.

Yaygın API Hatalarını Hata Ayıklama

Durum	Genellikle neden	Ne yapılmalı
400	Bozuk JSON veya bilinmeyen alan	İstek gövdesini gönderdiğiniz formata karşı kontrol edin
401	Eksik veya yanlış anahtar	Anahtarı tekrar kopyalayın ve Authorization başlığını kontrol edin
402	Kredi tüketildi	Bakiyeyi yükleyin; bakiye yükleme işlemleri $20'den başlar.
429	Hız sınırına ulaşıldı	Geri çekilin ve daha sonra tekrar deneyin

Her başarısızlık için durum kodunu ve istek kimliğini günlüğe kaydedin, böylece bir sorunu hızlıca izleyebilirsiniz.

Rakip API'lerden Geçiş

Geçişi üç aşamada planlayın: bir test ortamı, canlı trafiğin küçük bir kısmı ve ardından tam geçiş. Orta aşamada her iki temel URL'yi yapılandırmada tutun ve aynı istemlerde verilen yanıtları ve gecikmeyi karşılaştırın.

Kendi kullanımınıza göre maliyeti karşılaştırın, liste fiyatlarına göre değil. Kullanım alanındaki giriş ve çıktı tokenlerini 1M token başına $0.15 ve $0.50 ile çarpın ve bunu mevcut faturanızla karşılaştırın.