OpenAI 호환 API 채팅: Python, Node, curl
openai 호환 api 채팅 호출은 메시지 목록이 포함된 하나의 POST 요청과 모델의 단일 응답입니다. 이 가이드는 uncensored 엔드포인트를 예로 들어 요청 구조, 다중 턴 대화, 스트리밍 및 발생할 수 있는 오류를 설명합니다.
업데이트

1분 내의 요청
OpenAI 채팅 형식을 지원하는 모든 클라이언트는 이 서비스에 연결할 수 있습니다. Base URL과 키만 변경하면 나머지는 동일하게 유지됩니다. 여기서 Base URL은 https://api.mistralapikey.com/v1이고 모델 ID는 uncensored입니다. 인증은 표준 Authorization: Bearer 헤더를 사용합니다.
첫 번째 요청은 다음과 같습니다:
curl https://api.mistralapikey.com/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what an API key is in two sentences."}
]
}'
합법적인 성인 사용을 위해 콘텐츠 거부 없이 답변하도록 튜닝된 단일 오픈 가중치 모델을 실행하는 독립형 서비스입니다. Meta, Mistral, OpenAI 또는 기타 벤더의 공식 API가 아닙니다. POST /v1/chat/completions 및 GET /v1/models 두 가지 메서드를 제공하며 텍스트만 처리합니다. 키가 여전히 필요한 경우 API 키 페이지에 가입 방법과 무료 체험 크레딧에 대해 설명되어 있습니다.
응답 읽기
성공적인 응답은 일반적인 형태의 JSON 객체입니다. 텍스트는 choices[0].message.content에, 종료 이유는 choices[0].finish_reason에, 토큰 카운트들은 usage에 있습니다.
{
"id": "chatcmpl-...",
"object": "chat.completion",
"model": "uncensored",
"choices": [
{
"index": 0,
"message": {"role": "assistant", "content": "An API key is a secret string..."},
"finish_reason": "stop"
}
],
"usage": {"prompt_tokens": 31, "completion_tokens": 48, "total_tokens": 79}
}
finish_reason이 stop인 경우 모델이 답변을 완료했음을 의미합니다. length 값은 토큰 제한에 도달했음을 의미하므로 max_tokens을 늘리거나 미설정 상태로 두십시오. 헤더도 중요합니다: X-Request-Id은 지원용 호출을 식별하고, X-Balance-USD은 남은 크레딧을 보여주며, X-RateLimit-Limit-Requests 및 X-RateLimit-Limit-Concurrency은 제한 사항을 보고합니다.
메시지 및 역할
messages 배열은 전체 대화입니다. 각 항목에는 role 및 content이 있습니다.
- system은 동작, 어조 및 규칙을 설정합니다. 맨 앞에 배치하세요.
- user는 사용자가 입력한 내용입니다.
- assistant은 대화 중 모델이 이전에 말한 내용입니다.
- tool은 도구 호출을 사용하는 경우 함수 호출 결과를 담습니다.
모델은 배열에 있는 내용만 알고 있습니다. 요청 간에 기억하지 않으므로 서버는 세션을 유지하지 않습니다. 이것이 채팅 엔드포인트에 대해 이해해야 할 가장 중요한 사항이며, "채팅"이 턴마다 더 비싸지는 이유를 설명합니다: 전송하는 이력은 매번 입력으로 청구됩니다.
Python의 다중 턴 채팅
대화를 유지하려면 목록을 유지하고 사용자 메시지를 추가한 후 API를 호출하고 어시스턴트 응답을 추가한 후 반복합니다. 이는 완전한 터미널 채팅입니다.
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
history = [{"role": "system", "content": "You are a friendly, direct assistant."}]
while True:
text = input("you> ").strip()
if not text:
break
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.7,
)
answer = resp.choices[0].message.content
history.append({"role": "assistant", "content": answer})
print("bot>", answer)
print(f" [{resp.usage.prompt_tokens} in / {resp.usage.completion_tokens} out]")
채팅하는 동안 대괄호 안의 숫자를 주의 깊게 관찰하십시오. "입력" 수는 지금까지 말한 모든 내용을 포함하므로 턴마다 증가합니다. 이러한 증가는 정상이며 비용 절약을 위한 주요 수단이기도 합니다. 아래에서 다룹니다.
Node에서의 스트리밍 응답
채팅 인터페이스에서는 텍스트가 생성되는 대로 표시되어야 합니다. stream: true을 설정하면 API가 서버 전송 이벤트를 보냅니다. OpenAI Node SDK는 이를 비동기 반복자로 감쌉니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.mistralapikey.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a four-line poem about debugging." }],
stream: true,
});
for await (const chunk of stream) {
const piece = chunk.choices[0]?.delta?.content ?? "";
process.stdout.write(piece);
}
process.stdout.write("\n");
사용량은 스트림 끝에 보고되므로 두 번째 호출 없이도 토큰 카운트를 로깅할 수 있습니다. 운영상 주의사항: 스트리밍 요청은 스트림이 끝날 때까지 동시성 슬롯을 유지합니다. 사용자가 탭을 닫으면 요청을 취소하여 슬롯이 더 빨리 해제되도록 하세요.
사용 가능한 매개변수
표준 샘플링 제어는 모델에 전달됩니다. 가장 자주 사용할 매개변수입니다.
| 필드 | 기능 | 실용 팁 |
|---|---|---|
temperature | 단어 선택의 무작위성 | 추출용 0~0.3, 창의적 텍스트용 0.7~1.0 |
top_p | 가장 가능성 높은 단어로 샘플링 제한 | 이것 또는 온도를 변경하십시오. 드물게 둘 다 변경합니다. |
max_tokens | 응답 길이의 상한 | 선택 사항; 개방형 프롬프트에서 비용 한도 설정을 위해 설정하십시오. |
stop | 생성 종료 시퀀스 | 라인 기반 형식에 유용 |
seed | 반복 가능한 샘플링 | 테스트에 유용 |
frequency_penalty, presence_penalty | 반복 억제 | 작은 값으로도 큰 효과가 있음 |
response_format | JSON 모드 | {"type":"json_object"}를 사용하고 프롬프트에서 키를 설명하세요. |
도구 호출은 tools 및 tool_choice을 통해 사용할 수 있습니다. 빠른 시작은 일반 SDK 설정을 다룹니다.
대화의 비용
가격은 선불 크레딧 기준 입력 토큰 100만 토큰당 $0.15, 출력 토큰 100만 토큰당 $0.50입니다. 컨텍스트 창은 프롬프트와 응답을 합쳐 100,000 토큰입니다. 이력이 다시 전송되므로 채팅 비용은 메시지 수보다 빠르게 증가합니다.
각 사용자 메시지가 약 100 토큰, 각 응답이 약 200 토큰이고 시스템 메시지가 200 토큰인 채팅을 가정합니다. 턴 1에서는 300 입력 토큰이 전송됩니다. 턴 10에서는 약 200 + 10 x 100 + 9 x 200 = 3,000 입력 토큰이 전송됩니다. 턴 30에서는 약 200 + 30 x 100 + 29 x 200 = 9,000이 전송됩니다.
입력 30턴의 총합을 계산합니다: 총합은 30 x 200 + 100 x (1 + 2 + ... + 30) + 200 x (0 + 1 + ... + 29) = 6,000 + 46,500 + 87,000 = 139,500 입력 토큰입니다. 출력은 30 x 200 = 6,000 토큰입니다. 비용: 139,500 / 1M x $0.15 = $0.020925, 더하기 6,000 / 1M x $0.50 = $0.003. 전체 30턴 채팅은 약 $0.024입니다. 저렴하지만 입력이 출력보다 23배 더 크다는 점과, 잘라내지 않으면 길이의 제곱에 따라 증가한다는 점에 유의하십시오.
비용을 낮게 유지하는 방법: 이력이 선택한 크기를 초과하면 이전 턴을 삭제하거나 요약하고, 시스템 프롬프트를 짧게 유지하며, 긴 응답이 필요 없을 때 max_tokens을 설정하세요. 실패하거나 거부된 요청은 청구되지 않습니다. 충전 금액 및 보너스 티어는 가격 책정 페이지에 나열됩니다.
대화를 깨지 않고 이력 다듬기
대화가 길어지면 두 가지 선택지가 있습니다: 매번 전체 이력에 대해 지불하거나 잘라내거나. 간단한 규칙은 시스템 메시지와 마지막 몇 턴만 유지하는 것입니다. 이 함수는 그렇게 수행하고 나머지 루프는 변경하지 않습니다.
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapikey.com/v1",
api_key="YOUR_API_KEY",
)
def trimmed(history, keep=8):
system = history[:1]
rest = history[1:]
return system + rest[-keep:]
resp = client.chat.completions.create(
model="uncensored",
messages=trimmed(history),
)
잘라내기의 대가는 모델이 더 이상 보지 않는 것을 잊어버린다는 것입니다. 지원 봇에는 적합합니다. 긴 이야기의 경우 모델에게 이전 턴의 짧은 요약을 한 번 작성하도록 요청하고 이를 시스템 노트로 저장한 후 원본을 삭제하는 것이 좋습니다. 이는 하나의 추가 호출 비용이 들지만 줄거리를 유지합니다.
유용한 시스템 메시지 작성
간결하고 구체적으로 유지하십시오: 어시스턴트가 누구인지, 답변이 얼마나 길어야 하는지, 그리고 형식 규칙이 무엇인지 명시하십시오. "당신은 자전거 가게의 지원 담당자입니다. 최대 세 문장으로 답변하고 요청이 명확하지 않으면 질문을 하십시오"라는 문구는 일반적인 미덕의 페이지보다 더 많은 일을 합니다. 이 모든 단어는 매번 입력으로 청구되므로 1,000 토큰의 시스템 메시지는 요청마다 $0.00015를 추가합니다.
오류 및 제한
전용 키는 동시 요청 8개, 분당 요청 300개를 허용합니다. 체험용 키는 각각 2개와 60개를 허용합니다. 요청 본문의 최대 크기는 8 MB입니다. 한도를 초과하면 HTTP 429 오류가 발생하며, 그 의미는 다음과 같습니다:
- 오류 코드
rate_limited: 분당 요청 수가 너무 많습니다. 요청 간격을 넓히세요. - 오류 코드
concurrency: 동시에 요청하는 수가 너무 많습니다. 요청을 큐에 넣으세요. Retry-After: 5헤더: 일시적인 과부하입니다. 5초 후 다시 시도하세요.
401은 키가 누락되었거나 잘못되었음을 의미합니다. 키를 프론트엔드 코드에 넣지 마십시오. 서버에서 API를 호출하십시오. Mistral 설정에서 이동 중이라면 Mistral API 키 페이지에서 이 서비스로 접근하는 방법을 다룹니다.
프로덕션 코드에서는 OpenAI SDK가 일부 실패에 대해 이미 수행하는 것처럼 짧은 대기 시간으로 재시도를 호출에 래핑하고 모든 오류 옆에 X-Request-Id 값을 로깅하십시오. 문제가 있는 경우 해당 ID는 지원팀이 정확한 요청을 가리키는 가장 빠른 방법입니다. 또한 클라이언트 측 시간 제한을 설정하십시오. 큰 프롬프트의 긴 완료는 시간이 걸릴 수 있으며, 연결이 끊겨 있지 않도록 하여 8개의 동시 요청 슬롯 중 하나를 점유하지 않도록 해야 합니다.
서비스는 미성년자가 포함된 성적인 콘텐츠를 생성하지 않으며, 프롬프트는 학습에 사용되지 않습니다.
더 많은 가이드
질문과 답변
OpenAI 호환이란 무엇인가요?
이는 엔드포인트가 OpenAI 채팅 완료 API와 동일한 요청 형식을 수락함을 의미합니다. 따라서 기본 URL과 키를 변경한 후 OpenAI SDK 및 도구를 사용할 수 있습니다.
서버가 대화를 기억하나요?
아니요. 각 요청에 전체 메시지 기록을 보내세요. 서버는 호출 간 세션을 유지하지 않습니다.
사용 가능한 엔드포인트는 무엇인가요?
POST /v1/chat/completions 및 GET /v1/models. 이 서비스는 텍스트 전용이며, 이미지, 오디오 또는 임베딩 엔드포인트가 없습니다.
응답을 스트리밍하는 방법은 무엇인가요?
stream을 true로 설정하세요. API는 서버 전송 이벤트를 보내고 스트림 끝에 사용량을 보고합니다.
어떤 모델 이름을 사용해야 하나요?
모든 요청에서 모델 ID로 uncensored를 사용하세요.
키는 양식 하나만 작성하면 받을 수 있습니다
계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.