대형 모델 API FAQ: 주제별 답변 찾기
개발자가 대규모 모델 API를 처음 접할 때 머릿속에 떠오르는 여러 작은 질문들: 키는 어디서 구하는가, 이미지 전송이 가능한가, 갑자기 중단되는가, 한 번에 얼마나 긴 텍스트를 작성할 수 있는가. 이를 주제별로 다섯 그룹으로 나누고, 각 그룹의 질문에 대해 가능한 한 한 문장으로 명확히 답변합니다. 더 자세한 내용이 필요하면 해당 심화 문서로 이동하세요. 관심 있는 그룹으로 바로 건너뛸 수 있습니다.
최종 업데이트:
핵심 요약
- 이메일과 비밀번호로 등록하면 API 키가 즉시 표시됩니다. 계정당 하나의 키를 가지며, 재생성할 수 있습니다.
- 기능 범위는 순수 텍스트 채팅이며 단일 모델을 사용합니다. 스트리밍과 함수 호출을 지원하지만, 이미지, 오디오, 벡터 및 파인튜닝은 포함되지 않습니다.
- 한 번의 요청에서 프롬프트와 출력의 토큰 합계가 100,000을 초과하지 않아야 하며, 키당 분당 300개의 요청이 허용됩니다.
- 합법적인 성인 콘텐츠는 사용 가능하지만, 미성년자가 포함된 성 콘텐츠는 모두 차단됩니다. 서비스는 성인만 이용할 수 있습니다.
계정 및 키
첫 번째 API 키는 어떻게 받나요?
키 발급 페이지로 이동하여 이메일과 비밀번호로 등록하세요. 등록이 완료되면 키가 표시됩니다. 결제 정보는 필요하지 않습니다.
하나의 계정으로 여러 개의 API 키를 만들 수 있나요?
불가능합니다. 계정당 하나의 키만 생성할 수 있습니다. 프로젝트별 사용량을 구분하려면 여러 키에 의존하기보다 백엔드에서 프로젝트별로 태그를 달아 사용량을 기록하세요.
API 키가 유출되면 어떻게 하나요?
즉시 재생성하세요. 이전 키는 즉시 무효화되므로, 새 값을 모든 곳에 배포한 후 실행하세요.
신규 사용자는 먼저 체험할 수 있나요?
가능합니다. 신규 계정에는 $0.50의 무료 체험 크레딧이 제공되며, 7일 동안 유효합니다. 이 기간 동안 결제 수단을 등록할 필요가 없습니다.
등록부터 첫 번째 요청까지의 전체 과정을 확인하려면 채팅 봇 문서의 전체 프로젝트 빌드 가이드를 참조하세요.
여러 프로젝트를 동시에 관리해야 한다면 여러 키로 격리하는 것에 기대지 마세요. 대신 백엔드에서 각 호출에 프로젝트 태그를 붙이고 사용 기록을 기록하세요. 이렇게 하면 월말에 태그별로 집계할 수 있으며, 어떤 콘솔의 거친 통계보다 훨씬 명확합니다.
무엇을 호출할 수 있고, 무엇을 호출할 수 없는가
엔드포인트 주소와 모델 이름은 무엇인가요?
주소는 https://api.apidamoxing.com/v1,模型名固定为 uncensored입니다. 서비스는 이 단일 모델만 제공합니다.
어떤 엔드포인트를 제공하나요?
두 가지입니다: POST /v1/chat/completions(대화용)과 GET /v1/models(모델 목록 조회용)입니다. 다른 경로로 접근하면 404 오류가 반환됩니다.
이미지, 오디오를 전송하거나 벡터 검색을 할 수 있나요?
불가능합니다. 텍스트만 처리하며, 이미지, 오디오, 비디오, 벡터 임베딩이 없으며 파인튜닝도 제공하지 않습니다.
스트리밍 출력과 함수 호출을 지원하나요?
모두 지원합니다. 스트리밍은 요청에 stream: true를 추가하고 SSE로 반환합니다. 함수 호출은 OpenAI의 tools 형식을 따릅니다.
기존 OpenAI SDK를 바로 사용할 수 있나요?
가능합니다. base_url을 위 주소로 설정하고 api_key를 자신의 API 키로 교체하면 됩니다. Python, Node 또는 curl 모두 가능합니다.
흔한 오해 중 하나는 “OpenAI 형식을 호환하므로 OpenAI의 모든 기능을 지원한다”는 것입니다. 호환은 요청 및 응답 형식을 의미할 뿐, 기능 범위가 동일함을 의미하지 않습니다. 여기서는 텍스트 채팅만 제공하므로, 이미지 이해, 음성 변환, 벡터 검색과 관련된 기존 코드는 해당 부분을 분리하여 다른 구현으로 교체해야 합니다.
길이, 빈도 및 파라미터
한 번에 얼마나 많은 내용을 넣을 수 있나요?
입력과 출력의 합계는 최대 100,000 토큰입니다. 요청 본문 자체는 8 MB로 제한되지만, 텍스트 시나리오에서는 거의 토큰 제한에 먼저 도달합니다.
응답이 중간에 끊기는 이유는 무엇인가요?
대부분 max_tokens에 도달했기 때문입니다. 기본값은 2048이며 이를 늘리면 됩니다. 단일 요청의 최대치는 32,000이며, 합계가 100,000을 초과하지 않도록 주의하세요.
분당 몇 개의 요청을 보낼 수 있나요?
키당 300회입니다. 배치 작업은 자체적으로 대기열과 속도 제한을 설정하는 것을 권장합니다. 속도 제한에 도달한 후에 대응하는 것보다 미리 방지하는 것이 좋습니다.
temperature, top_p, stop 매개변수가 적용되나요?
적용됩니다. 이러한 표준 샘플링 필드는 모델에 그대로 전달되며, 채팅 완성 API에 대한 기대와 동일한 동작을 합니다.
각 필드의 세부 사항을 확인하려면 어디로 가야 하나요?
API 파라미터 상세 설명에 항목별 표가 있으며, 문서 페이지은 간략한 참고 자료입니다.
"길이가 긴 것"의 기준은 무엇인가요? 100,000 토큰은 대략 수만 자의 중국어에 해당하지만, 내용은 다양하므로 이는 근사치일 뿐 정확한 환산은 아닙니다. 매우 긴 문서를 처리할 때는 먼저 분할한 후 요약하는 것이 가장 안전한 방법입니다.
비용 및 잔액
어떻게 요금이 부과되나요?
토큰 기준: 입력은 백만 토큰당 $0.25, 출력은 백만 토큰당 $1.00입니다. 월 구독료나 구독이 필요 없습니다.
선불인가요, 후불인가요?
선불입니다. 계정에 선불 크레딧을 충전하고, 사용한 만큼 차감됩니다. 잔액은 만료되지 않습니다.
잔액이 다 떨어지면 어떻게 되나요?
요청이 실패하며 상태 코드 402와 오류 코드 no_credit이 반환됩니다. 무료 체험 크레딧이 만료될 때도 동일한 현상이 발생하며, 잔액을 충전하면 복구됩니다.
기능 사용에 얼마나 들지 어떻게 추정하나요?
토큰 및 요금의 계산 예시를 참고하세요. 핵심은 응답의 usage를 읽고 단가에 곱하는 것입니다.
예산 관리 팁 하나 더: 매번 충전할 때 "이번 주기 예상 사용량" 기준으로 충전하세요. 한 번에 너무 많이 충전할 필요가 없습니다. 선불이므로 잔액이 하드 리밋이 되어, 다 쓰면 멈추고 예상치 못한 요금이 청구되지 않습니다.
배포 및 디버깅의 실제 문제
개발 환경과 운영 환경에서 같은 API 키를 공유해도 되나요?
계정당 키가 하나뿐이므로 사실상 공유됩니다. 반드시 키를 서버의 환경 변수에만 저장하고 코드 저장소나 프론트엔드 페이지에 포함하지 마세요. 또한 키를 재생성하면 모든 환경에서 동시에 유효하지 않게 된다는 점을 인지하세요.
503 오류가 발생하면 즉시 재시도해야 하나요?
아니요. 이는 서비스가 일시적으로 바쁨을 의미합니다. 몇 초 후 다시 시도하고 최대 재시도 횟수를 설정하세요. 무작정 많은 요청을 보내면 요청 할당량만 낭비됩니다.
API 호출이 느린 것이 문제가 있나요?
긴 텍스트 생성은 본질적으로 시간이 걸리며, 출력 길이가 길수록 더 오래 걸립니다. 스트리밍 출력을 활성화하여 사용자가 앞부분의 텍스트를 먼저 볼 수 있게 하고, 클라이언트 타임아웃을 약간 느슨하게 설정하는 것을 권장합니다.
대화가 길어지면 한계를 어떻게 피하나요?
자신의 백엔드에서 대화 기록을 자르고 최근 몇 턴만 유지하세요. 이전 내용은 요약으로 압축할 수 있습니다. API가 400 오류를 반환하기 전에 요청 전에 총량을 추정하세요.
특정 요청에서 실제로 몇 개의 토큰이 사용되었는지 어떻게 확인하나요?
응답의 usage 필드를 읽으세요. 입력, 출력, 합계의 세 가지 항목이 포함되어 있습니다. 스트리밍 응답의 경우 이 데이터는 마지막 데이터 블록에 포함되어 있으며 추가 매개변수가 필요하지 않습니다.
이러한 질문이 반복되는 이유는 "코드가 작동"한 후의 다음 단계에서 발생하기 때문입니다. 이 섹션을 배포 전 체크리스트로 삼아 자신의 프로그램에 해당 처리가 있는지 하나씩 확인하는 것을 권장합니다.
콘텐츠 경계 및 사용 대상
어떤 콘텐츠가 거부되나요?
합법적인 성인 콘텐츠, 소설 및 논쟁적인 주제는 거부되지 않습니다. 미성년자가 포함된 성 콘텐츠는 모두 차단되며 403이 반환됩니다. 소설과 역할극도 동일하게 적용됩니다.
누가 사용할 수 있나요?
18세 이상의 성인만 가능합니다. 제품이 대중에 공개된다면 진입로에 연령 확인을 추가하세요.
내 프롬프트가 학습에 사용되나요?
아니요, 프롬프트는 학습에 사용되지 않습니다.
오류 발생 시 어디부터 확인해야 하나요?
응답 본문의 error 객체에서 code와 message를 먼저 읽고, 상태 코드와 대조하세요: 401은 키 문제, 402는 잔액, 403은 콘텐츠, 429는 속도 제한, 503은 서비스 일시적 과부하를 의미합니다. 몇 초 기다린 후 다시 시도하세요.
자주 묻는 질문
API 호출에 무엇이 필요한가요?
등록된 계정의 키와 https://api.apidamoxing.com/v1을 향한 HTTPS 요청. 헤더에는 Bearer 토큰이 포함되어야 하며, 나머지는 채팅 완성 형식과 동일합니다.
어떤 기능이 지원되고 어떤 기능이 지원되지 않나요?
텍스트 대화, 스트리밍 출력 및 함수 호출을 지원합니다. 이미지, 오디오, 비디오, 벡터 임베딩 및 파인튜닝은 지원하지 않습니다.
응답이 잘리는 이유는 무엇인가요?
보통 max_tokens에 도달했기 때문입니다. 기본값은 2048이며 32,000까지 조정할 수 있습니다. 프롬프트와 출력의 합계는 100,000 토큰을 초과할 수 없습니다.
잔액이 다 떨어지면 어떻게 되나요?
요청이 402 및 no_credit을 반환합니다. 선불 크레딧을 충전하면 계속 사용할 수 있으며, 잔액은 만료되지 않습니다.
누가 이 서비스를 사용할 수 없나요?
18세 미만. 미성년자 관련 성 콘텐츠는 실제 여부나 상상이든 관계없이 모두 차단되며 403이 반환됩니다.
양식을 작성하기만 하면 API 키를 받을 수 있습니다
계정을 생성하고, 키를 복사하고, Base URL을 수정하세요. 설정은 매우 간단합니다.