Guide d’intégration API Mistral
Le déplacement d'une intégration de style Mistral vers une nouvelle URL de base demande moins de travail que la plupart des équipes ne l'imaginent. Ce guide couvre le changement d'URL de base, l'ID du modèle, le streaming, les outils, les limites de tokens, les nouvelles tentatives et les erreurs que vous êtes le plus susceptible de rencontrer, avec du code que vous pouvez exécuter tel quel.
Dernière mise à jour
Résumé
- Le changement se résume à une URL de base et une clé ; le format de la requête et de la réponse reste identique.
- Utilisez l'ID de modèle uncensored et vérifiez-le avec une seule requête de test avant de modifier quoi que ce soit d'autre.
- Le streaming et l'appel de fonctions passent par le même point de terminaison de complétion de chat, donc les analyseurs existants continuent de fonctionner.
- Les coûts sont de 0,15 $ par 1M de tokens d'entrée et de 0,50 $ par 1M de tokens de sortie, facturés à partir du crédit prépayé.
Comprendre le changement d'URL de base
Votre code envoie des requêtes à une URL de base et y attache une clé. Pour passer à un autre endpoint compatible OpenAI, vous modifiez ces deux valeurs et rien d'autre. Le chemin /v1/chat/completions reste identique, donc le corps de la requête et le corps de la réponse conservent leur structure.
Conservez l'ancienne URL de base dans une valeur de configuration plutôt que dans le code. Ainsi, vous pouvez revenir en arrière en une seule étape si un problème apparaît en production.
Compatibilité SDK : Clients OpenAI vs Mistral
La plupart des bibliothèques clients acceptent une URL de base personnalisée. Le SDK officiel OpenAI, LangChain et LlamaIndex le font tous, et un client HTTP brut fonctionne aussi. Définissez l’URL de base sur https://mistralapibaseurl.com/v1 et passez la nouvelle clé.
- Vérifiez la version du SDK, car les anciennes versions ignorent le paramètre d’URL de base.
- Vérifiez que le client envoie la clé dans le
Authorizationheader en tant que jeton Bearer.
Configuration de l'ID du modèle
Envoyer l'ID du modèle uncensored. C'est le seul modèle proposé par le service, donc l'id ne change pas entre les requêtes et vous n'avez pas besoin de logique de sélection de modèle.
Exécutez une seule requête avec un prompt court. Une réponse et un bloc d'utilisation signifient que l'URL de base, la clé et l'ID du modèle sont corrects.
Implémentation des réponses en streaming
Définir stream: true pour recevoir la réponse sous forme d'événements envoyés par le serveur. Chaque événement contient un petit morceau de texte, et le dernier événement contient les chiffres d'utilisation.
Affichez les chunks à mesure qu'ils arrivent et conservez le texte complet dans un tampon, afin que le message soit stocké une fois le flux terminé. Mesurez le temps jusqu'au premier token ; ce chiffre indique la réactivité perçue du chat par un utilisateur.
Activation de l'appel de fonctions et des outils
Passez le tableau tools dans le même format que vous utilisez déjà. Le modèle renvoie un appel d'outil avec un nom de fonction et des arguments JSON. Exécutez la fonction dans votre code, renvoyez le résultat en tant que message d'outil et lisez la réponse finale.
- Définissez un outil avec deux arguments obligatoires et testez-le seul.
- Testez un cas où deux appels d'outils sont nécessaires séquentiellement.
- Validez les arguments avant d'exécuter quoi que ce soit qui modifie les données.
Gestion des fenêtres de contexte et des tokens
La fenêtre de contexte est de 100 000 tokens. Les longues conversations la remplissent, donc réduisez les anciens tours ou résumez-les avant d'atteindre la limite. Chaque requête peut retourner jusqu'à 16 000 tokens de sortie, et la valeur par défaut est de 2 048, donc définissez max_tokens pour les réponses que vous attendez.
Comptez les tokens à partir du champ usage de chaque réponse. Les estimations basées sur le nombre de mots sont souvent très imprécises pour le code et les textes non anglais.
Gestion des limites de débit et des nouvelles tentatives
Chaque clé permet 300 requêtes par minute et 8 requêtes simultanées. Lorsque vous dépassez la limite, vous recevez une réponse 429. Ne réessayez que les réponses 429 et 5xx, avec un backoff exponentiel et un plafond sur le temps d'attente total.
Ne réessayez jamais une 400 ou une 401, car la même requête échouera de la même manière. Corrigez d'abord la requête ou la clé.
Débogage des erreurs API courantes
| Statut | Cause habituelle | Que faire |
|---|---|---|
| 400 | JSON malformé ou champ inconnu | Vérifiez le corps de la requête par rapport au format que vous envoyez |
| 401 | Clé manquante ou incorrecte | Copiez à nouveau la clé et vérifiez l’en-tet Authorization |
| 402 | Crédit épuisé | Rechargez votre solde ; les recharges commencent à 20 $ |
| 429 | Limite de taux atteinte | Reculer et réessayer plus tard |
Journalisez le code de statut et l'ID de la requête pour chaque échec, afin de pouvoir tracer rapidement un problème.
Migration depuis les API des concurrents
Planifiez le changement en trois étapes : un environnement de test, une petite part de trafic en direct, puis le changement complet. Gardez les deux URL de base dans la configuration pendant la phase intermédiaire et comparez les réponses et la latence sur les mêmes invites.
Comparez les coûts sur votre propre utilisation, et non sur les prix listés. Multipliez les tokens d'entrée et de sortie du champ d'utilisation par 0,15 $ et 0,50 $ par 1M de tokens et comparez cela à votre facture actuelle.
Questions fréquentes
Dois-je modifier le format de ma requête ?
Non. L’endpoint suit le format des complétions de chat, donc les mêmes structures de messages et d’outils fonctionnent. Seule l’URL de base et la clé changent.
Quel model id dois-je utiliser ?
Utilisez uncensored. C'est le seul modèle sur le service, donc l'identifiant reste le même à chaque requête.
Comment obtenir une clé pour tester ?
Inscrivez-vous avec Google ou avec un e-mail et un mot de passe. La clé apparaît à l'écran, et le compte commence avec 0,50 $ de crédit d'essai valable 7 jours. Aucune carte n'est nécessaire.
Comment payer l'utilisation ?
Rechargez avec USDT sur TRC20 ou USDC sur Base, à partir de $20. Le bonus de crédit s'applique à partir de $50, et le crédit n'expire pas.
Accédez à votre clé
Inscrivez-vous, récupérez votre clé, et mettez à jour l'URL de base. C'est tout le processus.
