制限と再試行

キーの RPM・TPM・同時実行数、モデルのコンテキスト/出力上限、上流の容量、ファイル制限は個別に適用されます。値はコンソール、モデル詳細、ファイル APIで確認してください。

エラーの区別

  • 402:個人残高不足、またはプロジェクト/キーの予算超過。残高や予算を調整してください。
  • 429:レートまたは経路の容量制限。同時実行数を減らし、Retry-After がある場合は従います。常に返るとは限りません。
  • 413:リクエストまたはファイルが大きすぎます。縮小してから送信してください。
  • 400/403/404:パラメーター、モデル権限、正確なモデル ID を確認します。

安全な再試行

安全に再試行できる場合のみ、上限付き指数バックオフとジッターを使います。タイムアウトしても上流で処理が行われた可能性があります。生成・作成 API に汎用の冪等性保証はなく、重複処理や費用が発生し得ます。開始済みのストリームを黙って再送しないでください。ストリーミングとエラーコードを参照してください。

急増する処理はキューに入れ、Agent のターン数・ツール呼び出し・総費用を制限します。費用予算を増やしても RPM・TPM・上流容量は増えません。

制限と再試行 · ドキュメント · InOneAPI