TrueFoundry vs Vercel AI Gateway: 2026年におけるマネージドの簡便性とデプロイメント制御の比較
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support

TrueFoundryとVercel AI Gatewayはどちらも、多数のモデルプロバイダーの前面に単一のエンドポイントを配置し、1つのAPIキー、プロバイダールーティング、使用状況トラッキング、支出管理といった基本機能を十分に果たします。この比較がより興味深くなるのは、ゲートウェイがどこで動作し、誰がそれを承認しなければならないかという問いが生じたときです。Vercel AI Gatewayは呼び出して使用するホステッドサービスです。TrueFoundryは、完全マネージドSaaSからエアギャップ環境のVPCまで、どこにでも配置できるゲートウェイです。1つのマネージドエンドポイントだけを求めるAIアプリケーションエンジニアであれば、その違いは大きな問題にならないかもしれません。しかし、プロンプトの送信先を承認するプラットフォームチームやコンプライアンスチームにとっては、それが意思決定の大部分を占めることになります。
本比較では、本番環境への導入を評価するエンジニアリングリーダーの視点から、デプロイメント、モデルカバー率、エージェントおよびMCPガバナンス、コスト管理、コンプライアンスの各観点を検討します。本記事におけるVercelに関するすべての情報は、2026年9月時点の公開ドキュメントに基づいています。TrueFoundryに関する情報はすべて自社のドキュメントに基づいています。確認できなかった事項については、推測することなくその旨を明記しています。この分野の概要をまず確認したい場合は、LLMゲートウェイとは何かに関する解説記事からご覧ください。
Vercel AI Gateway: 概要
Vercel AI Gatewayは、アプリケーションとモデルプロバイダーの間に位置し、認証情報、使用状況レポート、支出管理を1つのOpenAI互換エンドポイントの背後に集約するマネージドルーターです。2025年8月に一般提供(GA)を開始し、VercelのWebプラットフォームおよびAI SDKから発展しました。サービスはai-gateway.vercel.sh上のVercel独自のインフラストラクチャで動作するため、自社でゲートウェイをデプロイしたりスケーリングしたりする必要はありません。
最大のポイントはその料金体系です。Vercelは自社プロバイダーキーの持ち込み(BYOK)を含め、0%のトークンマークアップを掲げており、一部のモデルで月額5 USD相当のクレジットが付与される無料ティアを提供しています。カタログにはOpenAI、Google Vertex AI、Amazon Bedrockなどのプロバイダーにわたる数百のモデルが含まれており、チャット、ストリーミング、埋め込み(embeddings)、ファンクションコーリング、構造化出力がサポートされています。ネイティブメトリクスではリクエストボリューム、トークン使用量、支出、レイテンシ、ルーティングがカバーされ、トレースはOTLP/HTTP経由でエクスポート可能です。Vercelによれば、自社製品であるv0のバックエンドとしてGatewayが利用されており、これはスケールの主張がベンダー自身のものであっても、実際の運用の信頼性を示す合理的な指標と言えます。
調整が必要となるのは、デプロイとガバナンスの側面です。Gatewayを自社VPCやエアギャップ環境で運用するための公開された方法はありません。ホストされたエンドポイント自体が製品となります。SSOは有料のアドオンであり、ディレクトリプロビジョニングと監査エクスポートはEnterpriseプランのみで提供されています。また、Gateway内部でのMCP向け統合ツール認可レイヤーは、現在のドキュメントでは確認できません。
最適な対象: ゲートウェイインフラを運用することなく、マネージドプロバイダールーティングと使用状況の可視化を求めるアプリケーションチーム(特に既存のVercel利用チーム)。
TrueFoundry: 概要
TrueFoundryは、1,000以上のLLMを単一のOpenAI互換APIに統合するAIゲートウェイであり、自社のコンプライアンス要件に応じた任意の場所にデプロイ可能です。独自クライアントをインポートするのではなく、既存のプロバイダーSDKのベースURLをゲートウェイに変更するだけで利用できるため、アプリケーションコードを既存の構成に近い状態で維持できます。機能群はAI Gateway製品に実装されています。

エンタープライズ契約の決め手となりやすいのがデプロイ性です。TrueFoundryは4つのモードを提供します: 完全マネージドSaaS、独自のデータストレージを使用するマネージドSaaS、ゲートウェイのデータプレーンが自社VPC内で動作しコントロールプレーンを当社がホストするハイブリッド、そしてすべてが自社VPCまたはオンプレミス(エアギャップ含む)に配置される完全セルフホストのインストールです。VPCモードでは、プロンプトがネットワーク外に送信されることはありません。ゲートウェイによるオーバーヘッドは約3〜4 msで、単一のvCPUで350+ RPSを維持できるため、ボトルネックになることなくクリティカルパスにとどまります。
ルーティングにとどまらず、TrueFoundryはモデル呼び出し以上の要素をガバナンス下におきます。ツールレベルのRBACおよび事前・事後ツールガードレールを備えたMCPゲートウェイおよびエージェントゲートウェイに加え、MCPサーバーとエージェントのレジストリも含まれます。モデルのデプロイとゲートウェイは単一のコントロールプレーンを共有しているため、セルフホストされたvLLM、TGI、またはTritonエンドポイントは、後付けのオプションではなくファーストクラスのターゲットとして扱われます。SOC 2、HIPAA、GDPRのサポート、SSO、RBAC、監査ログも組み込まれています。
最適な対象: データパス、モデルエンドポイント、エージェントガバナンスを自社の制御下に置く必要がある規制業界およびプラットフォームチーム。
両者を分ける重要要素
プロバイダーのカバー率とOpenAI互換APIの提供は、現在では前提条件に過ぎません。両製品ともその基準を満たしています。実際の本番デプロイメントでどちらのプラットフォームを採用するかを決定づけるのは、以下の要素です。
- デプロイメントとデータパス。 プロンプトを自社ネットワーク内に維持できるか、またゲートウェイ自体を自主運用できるか。これが両者の最も明確な違いです。
- モデルおよびエンドポイントのカバー率。 カタログに含まれるホステッドモデルの数だけでなく、自社でセルフホストしたモデルエンドポイントへ同じゲートウェイ経由でルーティングできるか。
- MCPおよびエージェントガバナンス。 ゲートウェイがアイデンティティとポリシーを用いてエージェントが呼び出せるツールを制御するか、それともツール実行がアプリケーション側に委ねられるか。
- コスト管理の仕様。 実際の価格モデルの課金対象と、どの管理機能が無料またはプラン制限されているか。
- コンプライアンス体制。 どの認証が契約上保証されているか、またセルフホスティングによって責任が自社に移行するか。
直接比較
TrueFoundryの機能は当社製品ドキュメントに基づいています。Vercelの機能は2026年9月時点で公開されているドキュメントの機能を反映しています。以下の2つのレイテンシ数値は測定方法が異なるため直接比較はできません。そのため各数値に補足を付記しています。
Vercel AI Gatewayを選択すべき場合
Vercelは、ホステッドモデルが自社の制約を満たしている場合に適した選択肢です。既存のスタックが既にVercel上にあり、GatewayのOIDCパスを利用して設定の手間を最小限に抑えたい場合に選択してください。トークンマークアップなしのマネージドルーティングを最優先とし、必要な管理機能が含まれるティアでカバーされている場合に適しています。また、Gatewayでプロンプトおよびコンプリーション本文をキャプチャしない運用(ドキュメントに記載されたデフォルト設定であり、プライバシー上の利点となり得る)を明示的に希望する場合にも適しています。なお、マネージドによる簡便性はVercel独自のものではなく、TrueFoundryも完全マネージドのSaaSティアを提供しています。
TrueFoundryを選択すべき場合
制御性が推奨条件ではなく必須条件である場合、TrueFoundryがより強力な解決策となります。プロンプトを自社VPC外に出せない場合や、ホステッド専用サービスでは対応できないエアギャップデプロイメントが必要な場合に選択してください。商用プロバイダーと並行してセルフホストモデルへルーティングし、両者の前面に単一のゲートウェイを配置したい場合にも適しています。エージェントを構築しており、呼び出し可能なツールに対してツールレベルのガバナンスが必要な場合に選んでください。そして、調達基準としてデータパス、各種認証、アクセス制御を自社の管理下に置くことが求められている場合に最適です。当社の比較アプローチの詳細は、LiteLLMの代替手段に関する記事でも解説しています。
料金の現実
Vercelの料金体系は、このカテゴリとしては非常に透明性が高くなっています。Gatewayのトークンマークアップは0%で、月額5 USD相当の無料クレジットが含まれ、オプション機能は使用量に応じて課金されます。モデルおよびプロバイダーの制限は成功リクエスト1,000件あたり0.10 USD、チーム全体でのデータ保持ゼロ機能は同料金、レポート書き込みは1,000件あたり0.075 USD、レポートクエリは1,000件あたり5 USD、トレースドレインは1,000件あたり0.05 USD+転送料金となっています。プラットフォーム費用は別途発生し、Vercel Proは1シート付きで月額20 USD(追加1シートあたり20 USD)、SAML SSOは月額300 USDのアドオン、HIPAA BAAは対象プランで月額350 USDです。Enterpriseはカスタム契約となります。ポイントとして、ルーティング自体は安価ですがガバナンス機能は従量課金となるため、実際に有効化する機能を試算しておく必要があります。
TrueFoundryの価格モデルはトークン単位ではなく、シート数+使用量で設定されています。Developerティアは無料、Proは1ユーザーあたり月額$25で、ユーザーごとに20,000件のリクエストおよびツール呼び出しが含まれ、超過分は追加100,000件あたり$20です。VPC、オンプレミス、エアギャップ、データレジデンシーデプロイメントはEnterpriseのみの個別見積もりとなります。ハイブリッドVPCデプロイの固定月額料金は公表されておらず、実行されるインフラ費用は自社クラウドの支出(TrueFoundryが設定・請求するものではありません)となります。Enterprise条件は年間契約ベースです。大規模運用において重要となる比較軸は総所有コスト(TCO)であり、1つのプラットフォームでゲートウェイ、モデルデプロイ、エージェントガバナンスをカバーできるか、あるいはそれらが別々のツールや契約に分かれるかという点です。
関連記事
- LiteLLMの代替手段:本番環境チーム向けTrueFoundry比較
- 最適なAIゲートウェイ:カテゴリ全般のまとめ
- LLMゲートウェイとは何か?:本記事の背景知識
- AIゲートウェイにおける可観測性:トレーシングと支出の深掘り
- TrueFoundry vs Portkey:同カテゴリにおける直接比較
結論
TrueFoundryとVercel AI Gatewayの選択は、主に「ゲートウェイをどこで動かすか」という選択に行き着きます。Vercel AI Gatewayは、ホステッドサービスを活用し、シンプルでマークアップのないルーティングを求めるチームにとって優れたマネージドルーターです。TrueFoundryは、データパス、セルフホストモデル、エージェントガバナンス、コンプライアンスを自社制御下に置く必要があり、将来的な要件拡張に応じてマネージドSaaSから自社VPCへと移行できる柔軟性を求める場合に適しています。規制下にある環境やプラットフォームガバナンスが必要な環境で本番用AIゲートウェイプラットフォームを検討されている場合は、デモを予約してください。TrueFoundryがお客様のデプロイおよびガバナンス要件にどのように対応できるかをご案内いたします。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.


Recent Blogs
Frequently asked questions
Can I deploy TrueFoundry in my own VPC or on-prem?
Yes. TrueFoundry runs in your VPC, on-prem, air-gapped, or hybrid, and no data leaves your domain. This is a core reason regulated teams choose it over SaaS-only gateways.
Does TrueFoundry support MCP and AI agents?
Yes. It includes an MCP Gateway, an Agent Gateway, and an MCP and Agents Registry with tool-level access control, so agents from LangGraph, CrewAI, AutoGen, or a custom framework can be governed centrally.




















