大規模言語モデル API よくある質問：テーマ別

アカウントとキー

最初の API キーはどうやって取得しますか？

キー取得ページでメールアドレスとパスワードを使用して登録してください。登録が完了すると API キーが表示されます。支払い情報の入力は不要です。

1 つのアカウントで複数の API キーを作成できますか？

できません。1 アカウントにつき 1 つのキーです。異なるプロジェクトで利用量を区別したい場合は、複数のキーに頼るのではなく、バックエンドでプロジェクトごとにタグ付けして使用量を記録してください。

API キーが漏洩した場合どうすればよいですか？

直ちに再生成してください。旧キーはその瞬間に無効化されるため、まず新しいキーを各環境にデプロイしてから実行してください。

新規ユーザーは試用できますか？

できます。新規アカウントには $0.50 の試用枠が付与され、7 日間有効です。この期間中は支払い方法の登録は不要です。

登録から最初のリクエスト送信までの全手順を確認するには、チャットボット記事のプロジェクト構築手順に従ってください。

複数のプロジェクトを同時に管理する場合は、複数の API キーで分離することを期待せず、バックエンドで各呼び出しにプロジェクトタグを付与し、usage を記録してください。こうすれば、月末にタグごとに集計でき、コンソールの粗粒度な統計よりも明確になります。

利用可能な機能と不可能な機能

API エンドポイントとモデル名は何ですか？

エンドポイントは https://api.apidamoxing.com/v1，模型名固定为 uncensored です。サービスは単一のモデルのみを提供します。

提供されるエンドポイントは？

2 つあります。POST /v1/chat/completions は会話用、GET /v1/models はモデル一覧表示用です。他のパスは 404 を返します。

画像や音声を送信できますか？また、ベクトル検索は可能ですか？

できません。ここではテキストのみを処理します。画像、音声、動画、ベクトル埋め込みはなく、ファインチューニングも提供していません。

ストリーミング出力と関数呼び出しはサポートされていますか？

両方ともサポートしています。ストリーミングはリクエストに stream: true を追加し、SSE で返します。関数呼び出しは OpenAI の tools 形式を継承しています。

既存の OpenAI SDK をそのまま利用できますか？

はい、base_url を上記のエンドポイントに設定し、api_key をあなたの API キーに変更するだけで利用可能です。Python、Node.js、curl のいずれでも動作します。

よくある誤解として、「OpenAI 形式と互換性があるため、OpenAI のすべての機能に対応している」というものがあります。互換性があるのはリクエストとレスポンスの形式であり、機能範囲が同一であることを意味するわけではありません。ここではテキストチャットのみを提供しているため、画像理解、音声文字起こし、ベクトル検索に関連する既存コードは、その部分を分離して別の実装に置き換える必要があります。

長さ、頻度、パラメータ

1 回のリクエストでどのくらいの量を送信できますか？

入出力の合計は最大 100,000 トークンです。リクエストボディ自体は 8 MB に制限されていますが、テキストのユースケースではほぼトークン制限に先に到達します。

回答が途中で途切れるのはなぜですか？

多くの場合、max_tokens に到達したためです。デフォルト値は 2048 です。これを増やすことで対応可能ですが、1 回あたりの最大値は 32,000 で、合計が 100,000 を超えないように注意してください。

1 分間に何件のリクエストを送信できますか？

API キーごとに 300 回です。バッチタスクは、レート制限に達してから対応するのではなく、自前でキューとレート制限を設定することをお勧めします。

temperature、top_p、stop は有効になりますか？

はい。これらの標準的なサンプリングパラメータはモデルにそのまま渡され、チャット補完 API に対するあなたの期待どおりの動作になります。

各パラメータの詳細を確認するにはどうすればよいですか？

API パラメータ詳細に項目ごとの表があります。ドキュメントページは簡潔なリファレンスです。

「長い」の基準について：100,000 トークンは、内容に依存しますが、数万文字の中国語に相当します。これは正確な換算ではなく、おおよその規模です。非常に長いドキュメントを処理する場合は、まず分割して後で要約するのが確実な方法です。

料金と残高

どのように課金されますか？

トークン単位：入力 100 万トークンあたり $0.25、出力 100 万トークンあたり $1.00。月額料金やサブスクリプションはありません。

後払いですか、それとも前払いですか？

前払いです。アカウントにチャージして前払い残高を作成し、使用した分だけ引き落とされます。残高は期限切れになりません。

残高がなくなるとどうなりますか？

リクエストは失敗し、ステータスコード 402、エラーコード no_credit が返ります。無料トライアルクレジットの期限が切れた場合も同じ動作になります。残高を追加すると利用可能になります。

機能の実行にどれくらいの費用がかかるかを見積もるには？

トークンと課金の計算例を参照してください。重要なのは、レスポンスの usage を確認し、単価を掛けることです。

予算管理の習慣として、チャージは「今期の予想使用量」に合わせて行い、一度に多額をチャージする必要はありません。前払いのため、残高がハードリミットとなり、使い切ると停止し、予期せぬ請求は発生しません。

デプロイとトラブルシューティングの実務

開発環境と本番環境で同じ API キーを共用できますか？

1 アカウントにつき 1 本のキーしか発行されないため、事実上共用されます。キーは必ずサーバー側の環境変数に格納し、コードリポジトリやフロントエンドには含めないでください。また、キーを再生成するとすべての環境で無効になる点にご注意ください。

503 エラーが発生した場合はすぐにリトライすべきですか？

いいえ。これはサービスが一時的に混雑していることを意味します。数秒待ってからリトライし、最大リトライ回数を設定してください。連続して大量送信すると、リクエスト枠を無駄に消費します。

API 呼び出しが遅いのは、何か問題がありますか？

長文の生成には本来時間がかかります。出力が長ければ長いほど、より時間がかかります。ストリーミング出力を有効にし、ユーザーが最初の文字をすぐに見られるようにするとともに、クライアント側のタイムアウトを緩めに設定することを推奨します。

会話の履歴が長くなると、どうやって制限超過を避けますか？

自前のバックエンドで履歴を切り捨て、直近の何ターン分だけを送信してください。それ以前の会話は要約に圧縮できます。API が 400 を返してから処理するのではなく、リクエスト送信前にトークン総数を推定してください。

特定のリクエストで実際に何トークン消費したかを確認するには？

レスポンスの usage フィールドを確認してください。入力、出力、合計の 3 項目が含まれています。ストリーミングレスポンスでは、最後のデータチャンクにこの情報が含まれます。追加パラメータは不要です。

これらの質問が頻出する理由は、それらが「コードが動作する」次のステップで発生するからです。このセクションをデプロイ前のチェックリストとして扱い、ご自身のプログラムに対応する処理が実装されているか確認することをお勧めします。

コンテンツの境界と利用対象

どのようなコンテンツが拒否されますか？

合法的なアダルトコンテンツ、小説、論争のあるトピックは拒否されません。未成年者に関連する性的コンテンツはすべてブロックされ、403 が返ります。小説やロールプレイでも同様です。

誰が利用できますか？

18 歳以上の成人のみです。製品を一般公開する場合は、入口で年齢確認を行ってください。

私のプロンプトはトレーニングに使用されますか？

いいえ、プロンプトはトレーニングには使用されません。

エラーが発生した場合はどこをまず確認すべきですか？

まずレスポンスボディの error オブジェクトの code と message を読み、ステータスコードと照合してください：401 はキーの問題、402 は残高、403 はコンテンツ、429 はレート制限、503 はサービスの一時的な混雑です。数秒待ってからリトライしてください。