Mistral API 통합 가이드
Mistral 스타일 통합을 새 기본 URL로 이동하는 데는 대부분의 팀이 예상하는 것보다 적은 작업이 필요합니다. 이 가이드는 기본 URL 변경, 모델 ID, 스트리밍, 도구, 토큰 제한, 재시도 및 가장 많이 발생할 수 있는 오류를 다루며, 바로 실행할 수 있는 코드를 제공합니다.
마지막 업데이트
요약
- 변경 사항은 하나의 기본 URL과 하나의 키뿐입니다. 요청 및 응답 형식은 동일하게 유지됩니다.
- 모델 ID uncensored를 사용하고 다른 변경 사항을 하기 전에 단일 테스트 요청으로 확인하세요.
- 스트리밍 및 함수 호출은 동일한 채팅 완료 엔드포인트를 통해 작동하므로 기존 파서가 계속 작동합니다.
- 비용은 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50이며 사전 결제 크레딧에서 청구됩니다.
Base URL 변경 이해하기
코드에서 기본 URL로 요청을 보내고 키를 첨부합니다. 다른 OpenAI 호환 엔드포인트로 이동하려면 이 두 값만 변경하면 나머지는 그대로 유지됩니다. 경로 /v1/chat/completions 변하지 않으므로 요청 본문과 응답 본문의 구조가 그대로 유지됩니다.
이전 베이스 URL을 코드 대신 구성 값에 보관하세요. 이렇게 하면 프로덕션에서 문제가 발생했을 때 한 번의 단계로 다시 전환할 수 있습니다.
SDK 호환성: OpenAI vs Mistral 클라이언트
대부분의 클라이언트 라이브러리는 사용자 정의 base URL을 허용합니다. 공식 OpenAI SDK, LangChain 및 LlamaIndex 모두 이를 지원하며, 일반 HTTP 클라이언트도 작동합니다. base URL을 다음으로 설정합니다. https://mistralapibaseurl.com/v1 새 키를 전달하세요.
- SDK 버전을 확인하세요. 매우 오래된 릴리스는 베이스 URL 설정을 무시할 수 있습니다.
- 클라이언트가 키를
AuthorizationBearer 토큰으로 설정합니다.
모델 ID 구성
모델 ID 보내기 uncensored. 이 서비스에서 제공하는 유일한 모델이므로 id는 요청 간에 변경되지 않으며 모델 선택 로직이 필요하지 않습니다.
짧은 프롬프트로 하나의 요청을 실행합니다. 응답과 사용량 블록이 있으면 기본 URL, 키 및 모델 ID가 모두 정확함을 의미합니다.
스트리밍 응답 구현
設定 stream: true 서버 전송 이벤트 형태로 응답을 받습니다. 각 이벤트는 작은 텍스트 조각을 포함하며, 마지막 이벤트에는 사용량 정보가 포함됩니다.
청크가 도착하는 대로 표시하고 전체 텍스트를 버퍼에 유지하여 스트림이 종료될 때 메시지를 저장하세요. 첫 번째 토큰까지의 시간을 측정하세요; 이 수치는 사용자가 채팅의 반응성을 어떻게 느끼는지를 보여줍니다.
함수 호출 및 도구 활성화
이미 사용하는 동일한 형식으로 tools 배열을 전달합니다. 모델은 함수 이름과 JSON 인수를 가진 도구 호출을 반환합니다. 코드에서 함수를 실행하고 결과를 tool 메시지로 다시 보내며 최종 답변을 읽습니다.
- 두 개의 필수 인수가 있는 하나의 도구를 정의하고 단독으로 테스트하세요.
- 두 개의 도구 호출이 순차적으로 필요한 경우를 테스트하세요.
- 데이터를 변경하는 작업을 실행하기 전에 인수를 검증합니다.
컨텍스트 창 및 토큰 관리
컨텍스트 윈도우는 100,000 토큰입니다. 긴 채팅은 이를 채우므로, 제한에 도달하기 전에 이전 턴을 잘라내거나 요약해야 합니다. 각 요청은 최대 16,000 출력 토큰을 반환할 수 있으며, 기본값은 2,048이므로 설정하세요 max_tokens 예상하는 답변을 위한.
각 응답의 사용 필드에서 토큰을 세세요. 단어 수로 추정하는 것은 코드와 비영어권 텍스트의 경우 큰 오차가 발생할 수 있습니다.
レートリミットとリトライの処理
각 키는 분당 300회 요청 및 8개의 동시 요청을 허용합니다. 제한을 초과하면 429 응답이 반환됩니다. 429 및 5xx 응답만 지수 백오프와 총 대기 시간 상한을 두고 재시도하세요.
400 또는 401 오류는 재시도하지 마세요. 동일한 요청은 동일한 방식으로 실패합니다. 먼저 요청이나 키를 수정하세요.
일반적인 API 오류 디버깅
| 상태 | 일반적인 원인 | 해야 할 일 |
|---|---|---|
| 400 | 잘못된 JSON 또는 알 수 없는 필드 | 보내는 형식에 맞게 요청 본문을 확인하세요 |
| 401 | 누락 또는 잘못된 키 | 키를 다시 복사하고 Authorization 헤더를 확인하세요 |
| 402 | 크레딧 소진 | 잔액을 충전하세요; 충전 금액은 $20부터 시작됩니다. |
| 429 | 속도 제한 도달 | 대기 후 재시도 |
각 실패에 대해 상태 코드와 요청 ID를 기록하여 문제를 빠르게 추적할 수 있습니다.
경쟁사 API에서 마이그레이션
이동은 세 단계로 계획하세요: 테스트 환경, 라이브 트래픽의 작은 비율, 그리고 전체 전환. 중간 단계에서는 두 기본 URL을 구성에 유지하고 동일한 프롬프트에 대한 답변과 지연 시간을 비교하세요.
사용량에 따라 비용을 비교하세요. 목록 가격이 아닌 실제 사용량을 기준으로 합니다. 사용량 필드의 입력 및 출력 토큰 수에 1M 토큰당 $0.15와 $0.50을 곱하여 현재 청구서와 비교하세요.
자주 묻는 질문
요청 형식을 변경해야 하나요?
아니요. 엔드포인트는 채팅 완료 형식을 따르므로 동일한 메시지 및 도구 구조가 작동합니다. 기본 URL과 키만 변경하면 됩니다.
어떤 model id를 사용해야 하나요?
uncensored를 사용하세요. 서비스의 유일한 모델이므로 모든 요청에서 ID가 동일하게 유지됩니다.
테스트할 키를 얻는 방법은?
Google 또는 이메일과 비밀번호로 가입하세요. 키가 화면에 나타나며, 계정에는 7일 동안 유효한 $0.50의 체험 크레딧이 제공됩니다. 카드가 필요하지 않습니다.
사용량 결제 방법은 무엇인가요?
USDT(TRC20) 또는 USDC(Base)로 $20부터 시작하세요. $50부터 보너스 크레딧이 적용되며 크레딧은 만료되지 않습니다.
키 확인
가입하고, 키를 가져온 후, 베이스 URL을 업데이트하세요. 전체 프로세스가 이것뿐입니다.
