Blank white background with no objects or features visible.

EMEAの皆様へ。TrueFoundryは、ヨーロッパ、中東、アフリカ全域で事業を拡大しています。詳細はこちら →

AI Gatewayの予算とクォータ:チームごとのAI支出を管理

By アシシュ・ドゥベイ

Updated: 11月 3, 2026

Published: 10月 9, 2026

単なるレート制限ではなく、ドル建て予算が必要な理由

GPUエンドポイントやプロバイダーアカウントは、誰かが監視しているかどうかに関わらず課金されます。レート制限はスループットを制限しますが、チームが月に1万ドルものトークンを密かに費やすのを防ぐことはできません。予算はドル単位で支出を制限します。これこそが、財務部門が実際に気にかけていることです。

AI Gatewayでは、予算制限(Budget Limiting)機能により、テナントごとまたはチームごとにコストの上限を設定し、アラートと自動適用機能を備えることで、LLMワークロードにおける支出のコントロールを可能にします。

テナント予算とチーム予算

予算制限ドキュメントでは2つのスコープが説明されており、その違いによって上限の所有者が決定されます。

  • テナント予算(Tenant budget): テナント管理者のみが管理し、ルールフィルターに一致するテナント全体のすべてのリクエストに適用されます。特定のモデルに対する月間支出制限など、組織全体の上限設定に使用します。
  • チーム予算(Team budget): テナント管理者とチームマネージャーが管理し、単一のチームのメンバーからのリクエストにのみ適用されます。チームリーダーがテナント管理者権限を持つことなく、自チームの支出を管理する場合に使用します。
「Policies」から「Budget Limiting」の順に進み、予算ルールを作成。

予算ルールの作成手順

  • ルールエディターを開く: AI Gatewayから「Policies」、「Budget Limiting」の順に進み、「Add Rule」をクリックします。
  • スコープを選択: 「Tenant Budget」または「Team Budget」のいずれかを選択します。
  • スコープフィルターの追加: サブジェクト、モデル、プロバイダーアカウント、またはメタデータにフィルターを追加します。すべてのフィルターを空のままにすると、そのスコープ内のすべてのリクエストにルールが一致します。
  • 予算上限の設定: 日次、週次、月次、四半期、無期限(lifetime)の1つ以上の期間を設定します。単一のルールで複数の期間を同時に適用でき、いずれかの期間を超過した場合にリクエストがブロックされます。
  • 適用方法の選択: 全体集計(aggregate)、ユーザーごと、モデルごと、バーチャルアカウントごと、メタデータごとのいずれかを選択します。これはルール作成後に変更することはできません。
  • 適用モードの選択: 超過時にブロックする「enforce」、警告のみを行う「audit」、他に一致する予算で許可できるルールがない場合にのみブロックする「soft enforce」のいずれかを選択します。
予算ルールで期間と適用方法(apply-as)のオプションを設定。

ドキュメントからの重要な注意点:予算ルールを作成すると、その期間内で過去にどれだけ支出されていたかに関わらず、利用カウンターはその時点からゼロで開始されます。過去の支出がさかのぼってカウントされることはありません。

暴走したエージェントが月間予算を使い果たすことを心配していませんか?
お客様のGateway上で、マイルストーンアラートを備えたテナントおよびチーム上限を設定するデモをライブでご覧いただけます。

上限に達する前のアラート

予算設定は、上限を超過する前に機能してこそ最大の効果を発揮します。ルール作成時に予算マイルストーンアラートを有効にし、75%、90%、95%、または100%の閾値を選択して、Email、Slack、PagerDuty、Microsoft Teamsなどの通知先を指定できます。これにより、リクエストが失敗し始めてから上限に達したことに気づくのではなく、事前に対処する時間を確保できます。

アナリティクスでの予算の可視化

アナリティクスダッシュボードでは、ルーティングメトリクスの下に予算の結果が表示されます。トップレベルのカウンターには、レート制限によってブロックされたモデル呼び出しと予算制限によってブロックされたモデル呼び出しが表示され、予算チャートにはチェック率、超過率、および予算ルールごとの許可対ブロックの内訳が表示されます。

これらは、設定(configs)、ユーザー、バーチャルアカウント、またはチームごとに表示できます。チームビューは社内課金(チャージバック)をサポートし、各チームが自身の予算を管理することを可能にします。

ルーティングメトリクスビューにおける予算およびレート制限の結果。

予算制限 vs レート制限

|  | 予算制限 | レート制限 |

| --- | --- | --- |

| 上限対象 | ドル単位のコスト | スループット(リクエスト数、トークン数、ツール呼び出し数) |

| スコープ | テナントおよびチーム | テナントのみ |

| 閾値アラート | あり(75%、90%、95%、100%) | なし |

| 期間 | 日次から無期限まで | 分、時間、日ごと |

この2つは相互補完的です。リソースキャパシティを保護するためにレート制限を使用し、コストを保護するために予算制限を使用します。どちらも違反時にはHTTP 429を返し、

すべてのコストを明確にし、チームごとに支出を制限
自社トラフィックにおけるテナントおよびチーム予算、マイルストーンアラート、社内課金(チャージバック)ビューをご確認ください。

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

No items found.
11月 18, 2026
|
5 min read

Claude Codeの制限について解説(2026年版)

No items found.
Analyzing how Cloudflare detects MCP traffic
11月 18, 2026
|
5 min read

How Cloudflare Detects MCP Traffic and Helps Secure It

No items found.
11月 18, 2026
|
5 min read

What Is AI Search? How It Works, Architecture, and Enterprise Use Cases

No items found.
Explaining LLM fine-tuning for enterprise AI teams
11月 18, 2026
|
5 min read

A Practical Guide to LLM Fine-Tuning: Methods, Data, Costs, and Deployment

No items found.
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.

Frequently asked questions

What is the difference between a budget and a rate limit?

A budget caps spend in dollars, while a rate limit caps throughput such as requests or tokens. Budgets support tenant and team scopes and send threshold alerts, whereas rate limits are tenant scoped and do not send threshold alerts.

Can a team manage its own budget?

Yes. A team budget can be managed by a team manager as well as tenant admins, and it applies only to that team members requests. This lets a team lead control their own spend without tenant admin access.

Does a new budget count spend from earlier in the month?

No. The usage counter starts at zero from the moment you create the rule. Prior spending in the current day, week, month, or quarter is not retroactively counted.

What happens when a budget is exceeded?

In enforce mode the request is blocked with an HTTP 429 and a budget limit error. In audit mode it is tracked and alerted without blocking, and in soft enforce mode it is blocked only when no other matching budget can allow the request.

Take a quick product tour
Start Product Tour
Product Tour