制限と再試行
キーの RPM・TPM・同時実行数、モデルのコンテキスト/出力上限、上流の容量、ファイル制限は個別に適用されます。値はコンソール、モデル詳細、ファイル APIで確認してください。
エラーの区別
- 402:個人残高不足、またはプロジェクト/キーの予算超過。残高や予算を調整してください。
- 429:レートまたは経路の容量制限。同時実行数を減らし、
Retry-Afterがある場合は従います。常に返るとは限りません。 - 413:リクエストまたはファイルが大きすぎます。縮小してから送信してください。
- 400/403/404:パラメーター、モデル権限、正確なモデル ID を確認します。
安全な再試行
安全に再試行できる場合のみ、上限付き指数バックオフとジッターを使います。タイムアウトしても上流で処理が行われた可能性があります。生成・作成 API に汎用の冪等性保証はなく、重複処理や費用が発生し得ます。開始済みのストリームを黙って再送しないでください。ストリーミングとエラーコードを参照してください。
急増する処理はキューに入れ、Agent のターン数・ツール呼び出し・総費用を制限します。費用予算を増やしても RPM・TPM・上流容量は増えません。