プロジェクトと予算
プロジェクトはアプリ、環境、メンバーのアクセス範囲、チームキー、モデル方針、費用を分離します。プロジェクト名は業務と環境が分かる名前をつけ、test1 や new-project のように後から判別しにくい名前は避けてください。
プロジェクトを作成
コンソールの「チームメンバー → プロジェクトと予算」を開き、プロジェクトを作成して次を設定します。
- 名称：例
support-agent-production。 - 予算：プロジェクトがチームキーに割り当てられる費用の上限。
- ステータス：プロジェクトを無効にすると、そのキーはこれ以上呼び出せません。
- モデルとルーティング：業務要件に応じて、プロジェクト配下のチームキーで設定します。
少なくとも開発・ステージング・本番を分離してください。予算が不足した場合は予算の調整か消費の削減を行い、場当たり的に本番サービスを開発キーへ切り替えないでください。
予算の割り当て
プロジェクト予算が上位の境界で、チームキーにはこれより小さい予算を設定できます。計画時の一例：
プロジェクト予算
├─ オンラインサービス用キー
├─ バッチタスク用キー
├─ Agent 用キー
└─ 予備枠キーの計画枠でプロジェクト予算を使い切らず、突発トラフィックと手動障害対応のための余地を残してください。予算値とチャージ金額は USD で管理し、通貨の自動換算は行いません。
モデルとルーティングの境界
本番プロジェクトは業務で実際に使うモデルだけを公開します。同じ公開モデルを複数のプロバイダーが提供する場合がありますが、スマートルーティングはそのモデルの利用可能なプロバイダー間でのみ選び、価格を下げるために別のモデルへ自動的に置き換えることはありません。
ルーティングモードの推奨：
- 対話型アプリ：バランス または 速度優先。
- バッチ処理：低価格優先。
- 中核となる長時間タスク：バランスを使い、クライアント側で冪等性、タイムアウト、復旧方針を設定します。
変更と終了
予算やルーティングを変更する前に、直近の利用量と Trace を確認してください。プロジェクトを終了するときは：
- サービスのトラフィックを止める。
- プロジェクト配下の全チームキーを取り消す。
- 直近の呼び出しがないことを確認する。
- メンバーの所属を削除する。
- 最後にプロジェクトを削除またはアーカイブする。
プロジェクトの削除は、上流へ送信済みのリクエストの取り消しを意味せず、過去の請求記録も変わりません。