大模型 API 常見問題:按主題找答案
開發者初次接觸大型語言模型 API 時,腦海中往往會同時浮現十幾個小問題:金鑰從何而來、能否傳送圖片、是否會突然停擺、一次能撰寫多長。將它們依主題分為五組,每組包含數個問題,答案力求精確簡明,需要進一步說明的部分則指向對應的專題文章,你可以直接跳至自己關注的那一組。
更新於
重點
- 入口為電子郵件加密碼註冊,金鑰即時顯示,一帳戶一鑰,可重新生成。
- 能力範圍是純文本對話,單一模型,支援串流與函式呼叫,不含圖片、語音、向量和微調。
- 一次請求的提示詞與輸出合計不超過 100,000 token,每把金鑰每分鐘 300 次請求。
- 合法的成人內容可用,但涉及未成年人的性內容一律攔截,服務僅限成年人。
帳戶與金鑰
怎麼拿到第一把金鑰?
去取得金鑰頁,用信箱和密碼註冊,註冊完成金鑰就會顯示出來,不需要填寫支付資訊。
一個帳戶能建多把金鑰嗎?
不能,每個帳戶一把。想給不同專案區分用量,請在你自己的後端按專案打標籤記帳,而不是靠多把金鑰。
金鑰洩露了怎麼辦?
立刻重新產生。舊金鑰在那一刻就作廢,所以先準備好把新值部署到各處,再動手。
新用戶能先試用嗎?
能。新帳戶有 $0.50 的試用額度,7 天內有效,期間不用綁定任何支付方式。
想看從註冊到發出第一個請求的全過程,可以對照聊天機器人一文裡的完整專案搭建一遍。
如果你同時要管理多個專案,別指望靠多把金鑰來隔離,而是在自己的後端為每次呼叫標註專案標籤,記錄用量。這樣月底依標籤彙總,比任何控制台的粗粒度統計都更清楚。
能呼叫什麼,不能呼叫什麼
介面地址和模型名是什麼?
地址是 https://api.apidamoxing.com/v1,模型名固定为 uncensored。服務只有這一個模型。
提供哪些端點?
兩個:POST /v1/chat/completions 用來對話,GET /v1/models 用來查看模型列表。其他路徑會得到 404。
能傳圖片、音訊,或者做向量檢索嗎?
不能。這裡只處理文本,沒有圖像、語音、影片、向量嵌入,也不提供微調。
支援串流輸出和函式呼叫嗎?
都支援。串流是在請求裡加 stream: true,用 SSE 返回;函式呼叫沿用 OpenAI 的 tools 格式。
可以直接用現成的 OpenAI SDK 嗎?
可以,把 base_url 指向上面的地址、api_key 換成你的金鑰即可。Python、Node 或 curl 都行。
一個常見的誤會是「既然相容 OpenAI 格式,那它支援 OpenAI 的所有功能」。相容指的是請求和回應的格式,不代表功能範圍相同。這裡只有文本對話,所以涉及圖片理解、語音轉寫、向量檢索的現有程式碼,需要把那部分拆出去,換成別的實現。
長度、頻率與參數
一次能塞多少內容?
輸入和輸出加起來最多 100,000 token。請求體本身還限 8 MB,不過文本場景幾乎先碰到 token 上限。
回答為什麼寫到一半就斷了?
多半是撞上了 max_tokens,預設值是 2048。調大它即可,單次最高 32,000,同時留意總量別超過 100,000。
每分鐘能發多少請求?
每把金鑰 300 次。批量任務建議在自己這邊先排隊限速,別等被限流了再補救。
temperature、top_p、stop 會生效嗎?
會,這些標準採樣欄位會原樣傳遞給模型,行為與你對聊天補全接口的預期一致。
想看每個欄位的細節去哪裡?
關於「多長算長」:100,000 token 大約相當於幾萬字的中文,具體取決於內容,這只是粗略的量級,不是精確換算。需要處理超長文件時,先分段、再彙總,是比較穩妥的做法。
費用與餘額
怎麼收費?
按 token 計:輸入每百萬 $0.25,輸出每百萬 $1.00,沒有月費,也不用訂閱。
錢是先付還是後付?
先付。在帳戶裡儲值預付額度,用多少扣多少,餘額不會過期。
錢用完了會怎樣?
請求會失敗,狀態碼 402,錯誤碼 no_credit。試用額度到期時也是同樣的表現,補充餘額後恢復。
怎樣估算一個功能要花多少?
參考token 與計費裡的算例,核心是讀響應裡的 usage,再乘以單價。
再補充一個預算習慣:每次儲值都按「本週期預計用量」來,不必一次充太多。因為是預付費,餘額就是你的硬性上限,用完就停,不會產生意外帳單。
上線與排錯的實際問題
開發和線上能共用同一把金鑰嗎?
因為一個帳戶只有一把,所以事實上共用。務必把金鑰只放在服務端的環境變數裡,別寫進程式碼倉庫或前端頁面,並且知道重新生成會讓所有環境同時失效。
遇到 503 要不要立刻重試?
不要。這表示服務暫時繁忙,隔幾秒再試,並且設定最多重試幾次。連續猛發只會浪費請求配額。
接口呼叫很慢,是不是出問題了?
長文本生成本來就需要時間,輸出越長越久。建議打開串流輸出,讓使用者先看到前面的字,同時把客戶端超時設得寬鬆些。
對話越聊越長,怎麼避免超限?
在你自己的後端裁剪歷史,只帶最近若干輪,更早的內容可以壓縮成摘要。發請求之前就估算總量,不要等接口返回 400 才處理。
如何確認某次請求到底用了多少 token?
讀響應的 usage 欄位,裡面有輸入、輸出和合計三項。串流響應則在最後一個資料塊裡帶這份讀數,不需要額外參數。
這些問題之所以反覆出現,是因為它們都發生在「程式碼能跑」之後的下一步。建議你把這一節當作上線前的檢查表,逐條確認自己的程式有沒有對應的處理。
內容邊界與使用對象
什麼內容會被拒絕?
合法的成人向內容、小說與有爭議的話題不會被拒絕。涉及未成年人的性內容一律攔截並返回 403,小說和角色扮演也一樣。
誰可以使用?
仅限 18 歲及以上的成年人。如果你的產品對外開放,也請在入口做年齡確認。
我的提示詞會被拿去訓練嗎?
不會,提示詞不用於訓練。
遇到報錯先看哪裡?
先讀響應體裡 error 物件的 code 和 message,再對照狀態碼:401 是金鑰問題,402 是餘額,403 是內容,429 是限流,503 是服務暫時繁忙,稍等幾秒再試。
常見問題
呼叫接口需要什麼?
一個註冊帳戶的金鑰,加上指向 https://api.apidamoxing.com/v1 的 HTTPS 請求,Header 裡帶 Bearer 權杖,其餘與聊天補全格式一致。
支援哪些功能,不支援哪些?
支援文本對話、串流輸出和函式呼叫;不支援圖片、音訊、影片、向量嵌入和微調。
回答被截斷是怎麼回事?
通常是觸達 max_tokens,預設 2048,可調到 32,000。同時 prompt 與輸出合計不能超過 100,000 token。
餘額用完會怎樣?
請求返回 402 與 no_credit。儲值預付額度後即可繼續,餘額不會過期。
哪些人不能使用這項服務?
未滿 18 歲者。涉及未成年人的性內容無論是否虛構都會被攔截,返回 403。
只需填寫表單即可獲取金鑰
建立帳戶,複製金鑰,修改 Base URL。配置就是這麼簡單。