agentgateway vs Vercel AI Gateway: セルフホスト型エージェントゲートウェイか、マネージド型モデルルーターか?
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
紙面上では、agentgatewayとVercel AI Gatewayは同じ役割を果たします。どちらもモデルプロバイダーの長いリストの前に、1つのOpenAI互換エンドポイントを配置します。実際には、これらは異なる購入者を対象に構築されています。Vercel AI Gatewayはホスト型サービスです。リクエストをVercelに送信すると、Vercelがエンドポイントの背後にあるすべてを運用します。agentgateway(Solo.ioが開始し、現在はLinux Foundationがホスト)は、自身でインストールして実行するオープンソースソフトウェアであり、MCPツール呼び出しやエージェント間トラフィックのガバナンスも行います。そのため、機能を比較する前に、ゲートウェイ自体を運用したいかどうか、そしてトラフィックのうちアプリではなくエージェントからのものがどれくらいになるかを決定してください。
私たちは両方を使用しました。当社のチームはオープンソースのagentgatewayビルド(v1.5.0、主な調査結果はv1.6.0で再確認)をハンズオンでテストし、Vercelのホスト型ゲートウェイを通じて自身のリクエストを実行しました。その後、2026年11月時点(agentgatewayがv1.7.0に達した時点)で、すべての主張を各ベンダーのドキュメントと照合して検証しました。
Vercel AI Gateway:概要
Vercel AI Gatewayは、アプリとモデルプロバイダーの間に位置します。認証情報の保持、使用状況の追跡、利用制限の適用をすべて1つのエンドポイントの背後で行います。2025年8月に一般提供(GA)を開始し、VercelのWebプラットフォームおよびAI SDKから派生して発展しました。OpenAI互換またはAnthropic互換のAPI、AI SDK、または通常のHTTPで呼び出すことができ、アプリをVercel上にホストする必要はありません。カタログにはOpenAI、Anthropic、Google、Amazon Bedrockなどからの400以上のモデルが掲載されています。
何もデプロイする必要はありません。Vercelは、ゲートウェイを独自のFluid compute上のNode.jsアプリとして説明しており、各リージョンのRedisがクォータを追跡します。これらを気にする必要は一切ありません。私たちのテストでも問題なく動作しました。リクエストはOpenAI、Google Vertex AI、Amazon Bedrockを経由して処理され、ツール呼び出しと厳密な構造化出力が有効な状態で返され、プライマリモデルに利用可能なプロバイダーがない場合は、設定しておいたバックアップモデルにゲートウェイがフェイルオーバーしました。
多くの人が最初に注目するのが価格設定です。Vercelは、独自のプロバイダーキーを持ち込む場合でも、トークンに対して0%のマークアップを請求し、すべてのチームに一部のモデル用として月額無料クレジットが提供されます。ガバナンス機能はリクエストごとに追加料金が発生し、SAMLシングルサインオンなどのチーム機能はVercelプランに付属しています。注意点は実行場所です。Vercelは、自身のVPC、オンプレミス、またはエアギャップ環境でゲートウェイを実行する方法を文書化していません。この分野に馴染みがない方は、LLMゲートウェイとは何かに関する解説で基本をご確認ください。
agentgateway:概要
agentgatewayは、Soloの旧Gloo AI Gatewayのアップデートではありません。SoloはRustで新しいプロキシを書き、Apache 2.0ライセンスを付与して、Linux Foundation傘下のAgentic AI Foundationに寄贈しました。Soloは現在も有償エディションであるSolo Enterprise for agentgatewayを販売しています。1つのYAMLファイルを読み込む単一のバイナリとして、コンテナとして、あるいはコントロールプレーンとデータプレーンが分離されたKubernetes上でGateway APIを実装して実行できます。小型で高速です。当社のチームのテストでは、コールドスタートから11秒未満でトラフィックの処理を開始し、アイドル時のメモリ使用量は約18 MBで、インターネットルートのないネットワーク上では外部への通信を一切行いませんでした。
1つのポリシーモデルで、LLM呼び出し、エージェントとツール間のModel Context Protocol(MCP)トラフィック、エージェント間(A2A)呼び出しの3種類のトラフィックを処理します。私たちが最も評価したのはMCP認可です。各呼び出し元が使用できるツールに関するルールを記述すると、ゲートウェイはツールリストもフィルタリングするため、エージェントは呼び出しを許可されていないツールを見ることはありません。無料エディションでは、アイデンティティプロバイダーに対するJWTの検証、各キーが使用できるモデルの制限、キーごとの使用予算の適用、プロンプトがネットワークを出る前のメールアドレスやカード番号などの機密データのマスキングも可能です。
Soloは、インスタンス間で共有する必要がある機能に対して課金します。フリート全体のレート制限、共有予算リソース、統合コストビューはすべてEnterprise機能です。詳細については、agentgatewayレビューを参照してください。
直接比較
agentgatewayの列は、オープンソースビルド(v1.5.0、v1.6.0で再検証)のテスト結果とv1.7.0のSoloのドキュメントに基づいています。Vercelの列は、Vercelの公式ドキュメントと無料ティアアカウントでのテスト結果に基づいています。両者とも2026年11月に確認しました。
Vercel AI Gatewayが優れている点
何も運用・管理する必要がありません。サイジングするクラスタも、計画を立てるべきアップグレードもありません。これは見た目以上に重要です。agentgatewayはほぼ毎月マイナーリリースを発行しており、v1.6.0だけでも5つの互換性を破る変更(breaking changes)が含まれていました。
Vercelの価格設定は公開されています。トークンのマークアップ(ゼロ)、機能ごとの料金、プラン価格のすべてがウェブサイトに掲載されています。SoloにはEnterpriseエディションの公開価格リストがなく、営業担当者と話すことなしにトライアルを開始することはできません。
制限はサービス全体に適用されます。Vercelは全員に対して1つのゲートウェイを運用しているため、トラフィックがどこから来ていても予算やクォータが維持されます。agentgatewayでは、複数のインスタンスにまたがる予算やレート制限を設けるにはEnterpriseエディションが必要です。
1つのAPIキーで400以上のモデルにアクセスできます。リクエストはプロバイダー、速度、コストによって順序付けまたはソートでき、一方が失敗した場合には他のプロバイダーやモデルにフェイルオーバーできます。
プロンプトを保持しません。Vercelのゲートウェイはプロンプトやコンプレーション(生成テキスト)のテキストをキャプチャせず、チーム全体でのZero Data Retention(データ無保持)をオンにしたり、プロンプトを学習に使用するプロバイダーをブロックしたりできます。
agentgatewayが優れている点
実行場所を選択できます。自社のVPC、自前のデータセンター、あるいはエアギャップ環境のネットワークです。プロンプトが他社のゲートウェイを通過することはありません。Vercelのゲートウェイはホステッド型(クラウド提供)のみです。
エージェントを理解・認識します。ツールごとのMCPルール、呼び出し元ごとのツールリスト、A2Aサポートのすべてが、モデル呼び出しと同じポリシーモデルを使用します。Vercelはツールの実行や、エージェントが呼び出せるツールに関するルールをアプリケーション側に委ねます。
機密データを削除できます。組み込みのPIIマスキング機能により、リクエストがプロバイダーに届く前にメールアドレスやカード番号などの情報を削除します。Vercelのドキュメントにはこれと同等の機能は見当たりませんでした。
独自のモデルと通信できます。自社のハードウェア上で稼働するvLLMやOllamaを含め、OpenAI互換のあらゆるエンドポイントがバックエンドとして機能します。Vercelはサポートしているプロバイダーに対して独自のキー(BYOK)を持ち込むことができますが、任意のプライベートエンドポイントへのルーティングに関するドキュメントはありません。
オープンソースであり、財団の傘下にあります。コードはApache 2.0ライセンスでLinux Foundationプロジェクト内に存在するため、その未来がSoloの計画に左右されることはありません。アプリケーションは引き続き標準のOpenAI APIを使用するため、移行コストも低く抑えられます。
パフォーマンス
これら2つを同じ方法でテストすることはできないため、順位付けは行いません。agentgatewayは割り当てたハードウェア上で動作します。Vercelのゲートウェイは共有サービスであり、測定する唯一の方法は外部からのテストになります。
Vercelの数値には注意して目を通してください。これにはVercelのネットワークへの往復が含まれており、大きく変動しました。98回のリクエストペアのうち21回で、ゲートウェイを経由する方がOpenAIに直接呼び出すよりも高速でした。いずれにせよモデル呼び出しには通常、数百ミリ秒から数秒かかるため、どちらのゲートウェイもボトルネックになる可能性は低いでしょう。ストリーミングに関しては、ライブプロバイダーに直接呼び出す場合と比較して、agentgatewayが最初のトークンまでに加えた遅延は約12 ms以下でした。
どちらのサービスも、高負荷時に弱点があります。VercelのFree TierはRetry-Afterヘッダーなしで連続して約4回のリクエストを通した後にHTTP 429を返したため、ペース調整なしの負荷テストを一切実行できませんでした。Vercelは、クレジットを購入することでFree Tierの制限が解除され、ゲートウェイは有料リクエストのレート制限を行わないとしています。当社ではこれをテストしていません。agentgatewayは大きなストリーミングレスポンスに問題を抱えていました。非常に長いドキュメントの場合、1つのインスタンスで毎秒約30リクエストを超えるとパフォーマンスが低下し始めました。小さなストリーミングリクエストは、試したいずれの負荷でも問題ありませんでした。
価格
agentgatewayは、インフラストラクチャとそれを管理する人件費以外のコストはかかりません。キーごとの予算設定、PIIマスキング、MCP認可を備えた1つのインスタンスは無料です。agentgateway向けのSolo Enterpriseには、フリート全体のレート制限、予算リソース、コスト管理UI、オンビハーフオブ(代理)アイデンティティ、FIPSビルド、およびサポートが追加されます。価格は営業担当者から入手する形式になっており、公開リストはありません。当社のSolo AI gatewayの価格内訳に、確認できた情報をまとめています。
Vercelはトークンにマークアップを課さず、独自のプロバイダーキーで請求される場合でも同様です。また、すべてのチームに一部モデル向けの月次無料クレジットが付与されます。独自のキーを使用するには、まずクレジットを購入する必要があります。ガバナンス機能を追加すると費用が増加します:
Vercelでは、ルーティングコストはほぼゼロです。費用はセキュリティチームが有効化を望む管理機能から発生するため、契約前にそれらの価格を見積もってください。agentgatewayではライセンスを無料にすることができます。支払うコストはエンジニアリングの時間であり、複数インスタンスを運用するようになった時点でのEnterpriseエディションの料金です。
知っておくべき注意点(Gotchas)
Vercelの予算設定はソフトキャップ(緩やかな上限)です。制限を超えるリクエストであっても完了し、独自のプロバイダーキーでの消費額はGatewayの予算にはまったくカウントされません。agentgatewayのキーごとの予算設定も同様に、上限を超えたリクエストを最後まで完了させます。
Vercelは自身のキーが失敗した場合でも課金します。プロバイダーキーを使用したリクエストが失敗すると、Vercelは自身の認証情報でリクエストを再試行し、お客様のクレジット残高に課金します。ゲートウェイ内だけでなく、プロバイダー側でも利用制限を設定してください。
VercelのFree Tierで負荷テストを行わないでください。VercelのドキュメントにはモデルごとのFree Tier制限が記載されていますが、当社のテストでは制限がアカウント全体に及ぶように振る舞いました。モデルを変更してもリセットされず、無料クレジットが残っていても効果はありませんでした。実際の評価を行う前にクレジットを購入してください。
agentgatewayはドキュメントの記載より1回多く呼び出しを行います。リトライ設定が1の場合、プロバイダーへの呼び出しは2回となり、バックオフ(待機時間)を設定しない限りリトライは遅延なしで送信されます。
agentgatewayのストリームはハングする可能性があります。ストリーミングルートにはresponseIdleTimeoutを設定してください。これはv1.6.0で導入され、v1.7.0からはMCPレスポンスもカバーするようになっています。これがないと、ストリームの途中で停止したプロバイダーは、クライアントが待機を許容する限り接続を開いたままにします。
agentgatewayの無料版制限はインスタンス単位です。予算やレート制限はEnterpriseエディションを購入しない限りレプリカ間で合算されないため、スケールアウトするまで見落とされがちです。
Vercel AI Gatewayを選ぶべきケース
- ゲートウェイの運用を他社に任せたい場合。
- トラフィックの大部分がアプリからのモデル呼び出しであり、ツールがそれらのアプリ内で実行されている場合。
- SOC 2 Type 2、ISO 27001、およびリージョン指定のプロバイダー推論を備えたホステッドサービスがコンプライアンス要件を満たしている場合。
- すでにVercelやAI SDK上で構築を行っている場合。
agentgatewayを選ぶべきケース
- エアギャップ環境を含め、自社のネットワーク内でゲートウェイを実行する必要がある場合。
- MCPツールや他のエージェントを呼び出すエージェントを運用しており、ツール単位のアクセス制御が必要な場合。
- 費用をかけずにPIIマスキングやアイデンティティチェックを利用したく、ゲートウェイを運用するプラットフォームチームがある場合。
- 商用プロバイダーと並行して、セルフホストされたモデルへルーティングする場合。
TrueFoundryという選択肢
Vercelはゲートウェイを代行運用してくれますが、それは自社のクラウド内に限られます。agentgatewayはどこでも実行できますが、ユーザー自身が運用する必要があり、インスタンス間の状態共有には追加コストがかかります。TrueFoundry AI Gatewayはその両方のケースをカバーします。マネージドSaaSとして使用することも、当社がホストするコントロールプレーンとともにご自身のVPCでゲートウェイを実行することも、あるいはVPC内、オンプレミス、エアギャップ環境でセルフホストすることも可能です。Gatewayポッドはコントロールプレーンからリアルタイムで構成とアクセスルールを受け取り、レート制限と予算カウンターも中央で集約されるため、有料アップグレードなしでレプリカ全体に制限が適用されます。
1つのOpenAI互換APIの背後で1,000以上のLLMを提供し、同じコントロールプレーンからセルフホストされたモデルへルーティングし、ツールレベルのアクセス制御によってLLM、MCP、エージェントのトラフィックを統制します。また、破壊的なツール呼び出しの前に人間の承認を必要とするように設定することも可能です。予算はチーム、モデル、またはプロバイダーアカウントごとにスコープを設定でき、SSO、RBAC、監査ログが組み込まれています。マネージドルーターとセルフホスト型エージェントゲートウェイの選択で迷っている場合は、TrueFoundry AI Gatewayが両方にどのように対応しているかをご覧いただくか、デモをご予約ください。
関連記事
- agentgateway(旧Gloo AI Gateway):正直なレビュー
- Solo AI gatewayの価格設定:完全な解説
- Solo.ioの競合および代替製品
- エージェントゲートウェイとは?
- MCP認証の解説
- 最高のMCPゲートウェイ
結論
選択は2つの質問に集約されます:「誰がゲートウェイを運用するか」そして「どのようなトラフィックを制御する必要があるか」です。マークアップなしのマネージドモデルルーティングを望み、ホステッドサービスがデータルールを満たしている場合は、Vercel AI Gatewayがより手軽な道です。ゲートウェイが自社ネットワーク内に存在する必要がある場合、またはエージェントにツールごとのアクセス制御が必要な場合は、agentgatewayの方が適しています。両方が必要な場合は、book a TrueFoundry demo.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.






















