Mistral API-integrationsguide
Flytning af en Mistral-lignende integration til en ny base-URL kræver mindre arbejde, end de fleste hold forventer. Denne guide dækker ændring af base-URL, model-id, streaming, værktøjer, tokengrænser, forsøg og fejl, du sandsynligvis vil støde på, med kode, du kan køre som den er.
Sidst opdateret
Opsummering
- Ændringen er én base URL og én nøgle; request- og response-formatet forbliver det samme.
- Brug model-ID'et uncensored og tjek det med et enkelt testanmodning, før du ændrer noget andet.
- Streaming og funktionsskald fungerer gennem det samme chat-completions-slutpunkt, så eksisterende parsers fortsætter med at fungere.
- Omkostninger er $0,15 pr. 1M input-tokens og $0,50 pr. 1M output-tokens, faktureret fra forudbetalt kredit.
Forståelse af ændring af Base URL
Din kode sender anmodninger til en base-URL og vedhæfter en nøgle. For at skifte til et andet OpenAI-kompatibelt endpoint ændrer du kun disse to værdier, og intet andet. Stien /v1/chat/completions forbliver det samme, så request-kroppen og response-kroppen bevarer deres form.
Hold den gamle base URL i en config-værdi frem for i koden. På den måde kan du skifte tilbage i ét trin, hvis et problem viser sig i produktion.
SDK-kompatibilitet: OpenAI vs Mistral-klienter
De fleste klientbiblioteker accepterer en brugerdefineret base URL. Det officielle OpenAI SDK, LangChain og LlamaIndex gør alle, og en almindelig HTTP-klient fungerer også. Indstil base URL til https://mistralapibaseurl.com/v1 og send den nye nøgle.
- Tjek SDK-versionen, da meget gamle udgaver ignorerer base URL-indstillingen.
- Tjek at klienten sender nøglen i
Authorizationheader som en bearer-token.
Konfigurerer Model-ID
Send model-id uncensored. Det er den eneste model, tjenesten tilbyder, så id'et ændres ikke mellem anmodninger, og du behøver ikke logik til modelvalg.
Kør én anmodning med et kort prompt. Et svar og en brugssblok betyder, at base URL, nøglen og model id er alle korrekte.
Implementering af streaming-svar
Indstil stream: true for at modtage svaret som server-sendte events. Hvert event bærer en lille tekstbit, og det sidste event bærer forbrugsnumrene.
Vis chunkene, mens de ankommer, og behold den fulde tekst i en buffer, så meddelelsen gemmes, når streamen slutter. Mål tiden til det første token; dette tal viser, hvor responsiv chatten føles for en bruger.
Aktivering af Function Calling og Tools
Indsend tools-matricen i samme format, som du allerede bruger. Modellen returnerer et tool-kald med et funktionsnavn og JSON-argumenter. Kør funktionen i din kode, send resultatet tilbage som en tool-meddelelse, og læs det endelige svar.
- Definer ét værktøj med to obligatoriske argumenter, og test det alene.
- Test et tilfælde, hvor to værktudkald er nødvendige i sekvens.
- Valider argumenterne, før du kører noget, der ændrer data.
Håndtering af kontekstvinduer og tokens
Kontekstvinduet er på 100.000 tokens. Lange chats fylder det, så trim gamle vendinger eller opsummer dem, før grænsen nås. Hver anmodning kan returnere op til 16.000 outputtokens, og standarden er 2.048, så indstil max_tokens til de svar, du forventer.
Tæl tokens fra usage-feltet i hvert svar. Estimat baseret på ordantal er ofte forkerte med stor margin for kode og ikke-engelsk tekst.
Håndtering af rate limits og forsøg igen
Hver nøgle giver 300 requests i minuttet og 8 requests ad gangen. Når du går over grænsen, får du en 429-response. Retry kun 429- og 5xx-responses med eksponentiel backoff og en cap på den samlede ventetid.
Prøv aldrig en 400 eller en 401 igen, fordi den samme anmodning fejler på samme måde igen. Ret anmodningen eller nøglen først.
Fejlfinding af almindelige API-fejl
| Status | Almindelig årsag | Hvad man skal gøre |
|---|---|---|
| 400 | Ugyldig JSON eller ukendt felt | Tjek request body mod den format, du sender |
| 401 | Manglende eller forkert nøgle | Kopier nøglen igen og tjek Authorization-headeren |
| 402 | Kredit brugt op | Top op saldoen; indbetalinger starter fra $20 |
| 429 | Rate limit nået | Træk dig tilbage og prøv igen senere |
Log statuskoden og anmodnings-ID'et for hver fejl, så du hurtigt kan spore et problem.
Migrering fra konkurrent-API'er
Planlæg flytningen i tre faser: et testmiljø, en lille del af live-trafik og derefter den fulde overgang. Behold begge base-URL'er i konfigurationen under mellemliggende fase og sammenlign svar og latens på de samme prompts.
Sammenlign omkostninger baseret på din egen brug, ikke på listepriser. Gang input- og outputtokens fra brugsfeltet med $0.15 og $0.50 per 1M tokens, og sæt dette op mod din nuværende regning.
Almindelige spørgsmål
Skal jeg ændre mit anmodningsformat?
Nej. Endpunktet følger chat-completions-formatet, så de samme message- og tool-strukturer virker. Kun base URL og nøgle ændres.
Hvilken model id skal jeg bruge?
Brug uncensored. Det er den eneste model på tjenesten, så id’et forbliver det samme i hver anmodning.
Hvordan får jeg en nøgle til at teste med?
Tilmeld dig med Google eller din e-mail. Nøglen vises på skærmen, og kontot starter med $0.50 i prøvekræditter, gyldige i 7 dage. Der kræves ikke et kort.
Hvordan betaler jeg for brug?
Top op med USDT på TRC20 eller USDC på Base, startende ved $20. Bonuskredit gælder fra $50, og kreditten udløber ikke.
Få adgang til din nøgle
Tilmeld dig, hent din nøgle, og opdater din base-URL. Det er hele processen.
