TrueFoundry MCPゲートウェイのご紹介:AIエージェントのN×M統合問題を解決

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
外部ツールやAPIと連携する必要があるAIエージェントを構築しているなら、おそらく私たちと同じ壁にぶつかっているでしょう。それはN×Mの統合問題です。エージェントの数(N)とツールの数(M)が増えるにつれて、各エージェントは、それぞれのツールに対して独自の接続、認証、エラー処理を実装することになります。これにより、管理、セキュリティ、監視が困難になるN×Mのポイントツーポイント統合マトリックスが生まれます。すべてのエージェントがすべてのツールに直接接続すると、ポイントツーポイント接続の絡み合った網が形成されます。
本日、私たちは以下の発表をいたします。 TrueFoundry MCPゲートウェイ:Model Context Protocol (MCP) を使用してAI開発ツールへのアクセスを一元化する、エンタープライズ対応プラットフォームです。開発チーム全体で何百もの個別のツール設定を管理する代わりに、単一のプラットフォームを通じて、厳選されたAIツールへの安全で統制されたアクセスを提供できます。

問題点:エージェントとツールの直接接続はスケーラブルではない
エージェントがツールに直接接続すると、各エージェントが独自のミニ統合ハブとなってしまいます。1つのエージェントが1つのツールとやり取りするだけなら問題ありませんが、アプリケーションが成長するにつれて、すぐに破綻してしまいます。
認証情報の乱立とセキュリティリスク
直接接続モデルでは、各エージェントは、アクセスするすべてのツールの認証情報を保存・管理します。これは大規模な攻撃対象領域を生み出します。APIキー、OAuthトークン、データベース接続文字列が、複数のエージェントのコードベース、設定ファイル、環境変数に散在することになります。このような認証情報の乱立は、安全なローテーションをほぼ不可能にし、情報漏洩のリスクを劇的に高めます。もし1つのエージェントが侵害された場合、数十もの重要な内部および外部サービスの認証情報が漏洩する可能性があります。
可観測性のブラックホール
トラフィックを集中管理するポイントがないと、エージェントとツールのやり取りを統一的に把握することはできません。特定のツールが遅いのか?エージェントが呼び出しを多すぎているのか?どのユーザーアクションが5つの異なるツール呼び出しの連鎖を引き起こしたのか?これらの質問に答えるには、N個の異なるエージェントからのログを結合する必要がありますが、これは多くの場合、現実的ではありません。結果として、デバッグは事後対応的になり、パフォーマンスチューニングはデータではなく推測に基づいて行われる、可観測性のブラックホールに陥ってしまいます。
一貫性のないエラー処理とリトライ
各外部ツールには、それぞれ独自の障害モード、レート制限、一時的なエラー条件があります。分散型モデルでは、すべてのエージェント開発者が、指数バックオフ、冪等操作のリトライ、サーキットブレーカーといった堅牢なエラー処理を実装しなければなりません。これにより、一貫性がなく、しばしば不完全な実装が生じます。あるエージェントは失敗した呼び出しを積極的にリトライし、不調なツールに対して意図せずサービス拒否攻撃を開始してしまうかもしれません。一方、別のエージェントはサイレントに失敗し、重要なビジネスプロセスを頓挫させてしまうかもしれません。
高いメンテナンスコスト
新しいツール統合はすべて、複数のエージェントにわたって繰り返される、かなりの開発作業となります。開発者は、認証、リクエスト署名、レスポンス解析のための定型コードの記述に時間を費やし、コアとなるエージェントロジックに集中できません。ツールのAPIが変更された場合、それを使用するすべてのエージェントを個別に特定し、更新する必要があります。この高いメンテナンスコストは、開発速度を低下させ、エージェントの機能を拡張することを困難にします。
解決策:MCPゲートウェイ
MCPは、アプリケーションがLLMにコンテキストを提供する方法を標準化するオープンプロトコルです。MCPはAIアプリケーションにとってのUSB-Cポートのようなものだと考えてください。AIモデルをさまざまなデータソースやツールに接続するための標準化された方法を提供します。
MCPサーバーは、MCPプロトコルを介してLLMにデータと機能を提供するプログラムです。例えば:
- Slack MCPサーバーは、「チャンネルにメッセージを送信」や「メッセージを検索」のようなツールを公開する場合があります
- GitHub MCPサーバーは、「リポジトリのリストを取得」や「プルリクエストを作成」のようなツールを公開する場合があります
MCPゲートウェイは、AIエージェント(クライアント)とツール(MCPサーバー)の間に位置する特殊なリバースプロキシです。実際には、一元化された MCPハブとして機能し、ツール検出、認証、ルーティング、可観測性を、すべてのエージェントとツールのやり取りに対する単一の制御点に統合します。エージェントが数十もの異なるツールエンドポイントに直接接続する代わりに、すべてが単一の統合されたゲートウェイエンドポイントに接続します。ゲートウェイは、リクエストを適切なアップストリームツールに安全にルーティングします。このアーキテクチャは、エージェントシステムを構築する開発者にとって重要な問題を解決します。
一元化されたセキュリティとガバナンス: ゲートウェイは、すべてのエージェントとツールのやり取りに対する単一の制御点となります。認証、認可(ロールベースのアクセス制御など)を強制し、詳細な監査ログを1か所で作成できます。
統合された可観測性: MCPゲートウェイは、ロギング、メトリクス、トレースを一元化します。単一のダッシュボードから、レイテンシを監視し、エラー率を追跡し、複数のツール呼び出しにわたる複雑なエージェントタスクをトレースできます。
運用効率: ゲートウェイはツール管理を簡素化します。利用可能なツールの一元的なレジストリを維持し、エージェントが動的にそれらを発見できるようにします。すべてのアップストリームツールの認証情報を管理し、必要に応じてリクエストに安全に挿入します。
コスト管理: AIエージェントは高価になる可能性があり、LLMや有料ツールAPIへの多くの呼び出しを行います。ゲートウェイは、キャッシング、レート制限、予算管理を通じてこれらのコストを管理する制御を提供します。
TrueFoundry MCPゲートウェイ:アーキテクチャと機能
TrueFoundry AIゲートウェイは、MCPを使用してAI開発ツールへのアクセスを一元化するエンタープライズ対応プラットフォームです。これは MCPレジストリ、一元化された認証、およびLLMとMCPサーバー間のエージェントループをオーケストレーションする組み込みのMCPクライアントを提供します。
アーキテクチャ概要
エージェントはMCPゲートウェイに一度認証し、ゲートウェイはMCPリクエストを登録されたMCPサーバー(Slack、GitHub、社内ツール)にルーティングします。この際、コントロールプレーンがトークン、OAuthフロー、アクセスポリシーを管理します。

MCPゲートウェイの主な機能
1. 一元化されたMCPレジストリ
TrueFoundryコントロールプレーンに登録されているパブリックなMCPサーバーだけでなく、セルフホスト型のMCPサーバーも追加できます。コントロールプレーンは、すべてのMCPサーバーとその認証メカニズムの一元化されたレジストリを管理します。ユーザー固有のOAuth2フローを処理し、アクセストークンを安全に保存および更新することで、ユーザーが許可されたリソースのみにアクセスできるようにします。
これにより、認証情報の散在問題が解決されます。各開発者がツールごとに独自のAPIキーやOAuthトークンを管理する代わりに、ゲートウェイがそれらを一元的に管理します。ユーザーはゲートウェイで一度認証すればよく、ゲートウェイがその後のすべての認証を処理します。
2. きめ細かいアクセス制御
MCPサーバーを登録する際に、アクセス権を持つユーザーやチームのリストを指定できます。これにより、エンタープライズレベルでのきめ細かいアクセス制御が可能になります。これはMCPサーバーグループを介して行われ、MCPサーバーを管理し、他のユーザーにアクセス権を付与できるマネージャーを定義できます。
例えば、次のようなものがあります。
- GitHub、JIRA、および社内CI/CDツールへのアクセス権を持つ「エンジニアリング」MCPサーバーグループ
- Salesforce、HubSpot、およびメールツールへのアクセス権を持つ「セールス」MCPサーバーグループ
- 会計および決済処理ツールへのアクセス権を持つ「財務」MCPサーバーグループ
各グループは、使用を許可されたツールのみを表示するため、攻撃対象領域が減り、偶発的な誤用を防ぐことができます。
3. 統合認証
どのユーザーでも、単一のパーソナルアクセストークン(PAT)を生成でき、それを使ってアクセス権を持つすべてのモデルとMCPサーバーにアクセスできます。また、仮想アカウントトークン(VAT)を生成して、アプリケーションに特定のMCPサーバーセットへのアクセスを提供することも可能です。
ゲートウェイは複数の認証方法をサポートしています。
- TrueFoundry APIキー:TrueFoundryアカウントを持つユーザー向け
- IDPトークン:既存のIDプロバイダー(Okta、Azure ADなど)との統合用。 *これにより、エンドカスタマーのトークンもTruefoundry MCPゲートウェイによって検証できるようになります。
ゲートウェイは、OAuth2フローの複雑さを処理します。具体的には、次のとおりです。
- OAuth2認証フローの開始
- アクセストークンの安全な保存と管理
- 期限切れトークンの自動更新
- 異なるMCPサーバー向けにユーザー トークンをOAuthトークンにマッピングする
4. 仮想MCPサーバー
最も強力な機能の1つは、仮想MCPサーバーを作成できることです。これにより、複数のMCPサーバーのツールを1つの厳選されたMCPサーバーに統合し、アプリケーションから接続できるようになります。
例えば、GitHubとSlack用のMCPサーバーを統合しているとします。社内のチームが、これら2つのMCPサーバーへのアクセスを必要とするエージェントを開発していますが、`delete_project`や`delete_pr`などの危険なツールを公開したくありません。
仮想MCPサーバーを使用すると、GitHubおよびSlackのMCPサーバーから安全なツールの一部を選択して、新しいMCPサーバーを作成できます。この新しい仮想MCPサーバーは、他のリモートMCPサーバーと同様にアクセスでき、デプロイメントは不要です。これはゲートウェイによって完全に管理されます。
これは特に以下の用途で役立ちます。
- 異なるチーム向けに安全で厳選されたツールセットを作成する
- 複数のソースからのツールを論理的なグループにまとめる
- 必要なツールのみを公開することで最小権限アクセスを実装する
5. エージェントプレイグラウンド
TrueFoundry AI Gatewayは、ユーザーがプロンプトやMCPサーバーのさまざまなツールを試してエージェントを構築できるプレイグラウンドを提供します。このゲートウェイには、Web検索、Webスクレイピング、ドキュメント抽出、コード実行などの一般的に使用されるツールが付属しています。
ゲートウェイは、LLMプロバイダーによって決定されたツールの実行を調整するMCPクライアントで構成されています。また、ゲートウェイはリクエストの進行状況をUIにストリーミングするため、ユーザーはLLMの応答、ツール呼び出し、ツールの応答をリアルタイムで確認できます。
これにより、開発者は以下のことを簡単に行えます。
- さまざまなツールの組み合わせをテストする
- エージェントの動作をデバッグする
- ツールがどのように呼び出されているかを理解する
- エージェントのプロンプトを迅速に反復処理する
6. コードでMCPサーバーを使用する
ゲートウェイは、コードでMCPサーバーの使用を開始する方法を示すコードスニペットを提供します。MCP Gateway APIを直接使用することも、一般的なMCPクライアントライブラリと統合することもできます。
Pythonからゲートウェイを使用する例を次に示します。
import asyncio
from fastmcp import Client
from fastmcp.client.transports import StreamableHttpTransport
async def main():
# Connect to the gateway using your Personal Access Token
transport = StreamableHttpTransport(
url="https://{controlPlaneURL}/mcp/{groupName}/{mcpServerName}/server",
auth="Bearer your-tfy-token"
)
async with Client(transport=transport) as client:
# List available tools
tools = await client.list_tools()
print(f"Available tools: {tools}")
# Call a tool
result = await client.call_tool(
name="github_list_repositories",
arguments={"org": "my-org"}
)
print(f"Result: {result}")
asyncio.run(main())6. 4層認証と認可
ゲートウェイは、包括的な4層の認証・認可システムを実装しています。
レイヤー1:ゲートウェイ認証
どのユーザー/アプリケーションも、ゲートウェイと通信するためにTrueFoundry APIキーまたは独自のIDPトークンのいずれかが必要です。TrueFoundry AI Gatewayは、独自のIDPトークンを検証し、SSO設定に基づいてトークンからユーザーのメールアドレスを抽出できます。
これにより、ユーザーが個別のTrueFoundryアカウントを作成することなく、既存のIDプロバイダー(Okta、Azure AD、Google Workspaceなど)と統合できます。
レイヤー2:ゲートウェイアクセス制御
ゲートウェイ層で、どのユーザーがどのMCPサーバーにアクセスできるかを定義できます。これにより、エンタープライズレベルでのきめ細かなアクセス制御が可能になります。これはMCPサーバーグループを介して行われ、MCPサーバーを管理し、他のユーザーにアクセス権を付与できるマネージャーを定義できます。
レイヤー3:外部サービス認可(MCPサーバー認証)
これは、外部サービスにアクセスするためにMCPサーバーによって実装される認可です。TrueFoundryは、MCPサーバーを以下の認証メカニズムと統合できます。
- 認証なし:デモAPIまたは公開API向け(本番環境では非推奨)
- 静的ヘッダーベース認証:APIキーまたは静的トークンを使用するMCPサーバー向け(例:Hugging Face)
- OAuth2およびDCRベース認証:OAuth2をサポートするMCPサーバー向け(GitHub、Slack、Atlassianなど)
ゲートウェイはOAuth2フローの複雑さを処理します。
- 各ユーザーの異なるMCPサーバーのOAuthトークンを保存および管理します
- 異なるMCPサーバー向けに、ユーザーのトークンとOAuthトークンのマッピングを保持します
- トークンが期限切れになった際に自動的に更新します
- これにより、ユーザーは複数のトークンを管理する必要なく、単一のトークンでゲートウェイと通信できます。
レイヤー4:カスタムヘッダー
任意のカスタムヘッダーをMCPサーバーに渡すには、`x-tfy-mcp-headersヘッダー。これは、認証トークン、メタデータ、またはMCPサーバーが必要とするあらゆるヘッダーに便利です。カスタムヘッダーは、MCPサーバーに設定されたデフォルトの認証を常に上書きします。
実際のユースケース
ユースケース1:企業開発チーム
大規模なエンジニアリング組織が、AIエージェントを介してすべての開発者にGitHub、JIRA、Slackへのアクセスを許可したいと考えていますが、その際の権限レベルは異なります。
- ジュニア開発者:GitHubへの読み取り専用アクセス(リポジトリのリスト表示、PRの閲覧は可能ですが、マージはできません)
- シニア開発者:GitHubへのフルアクセス、JIRAへの読み取り専用アクセス
- エンジニアリングマネージャー:すべてのツールへのフルアクセス
TrueFoundry MCPゲートウェイを使用すると:
- IT部門が各ロール(役割)ごとにMCPサーバーグループを作成します
- 各グループは適切なOAuthスコープで設定されます
- 開発者は企業のIDPを使用してゲートウェイで一度認証します
- ゲートウェイがすべてのOAuthフローとトークン管理を処理します
- 開発者は単一のパーソナルアクセストークンを使用して、すべての承認済みツールにアクセスします
ユースケース2:マルチテナントSaaSプラットフォーム
SaaSプラットフォームが、顧客自身のツール(例:顧客のGitHub、顧客のSlack)と連携するAIエージェントを顧客が構築できるようにしたいと考えています。
- 各顧客は自身のIDPトークンで認証します
- ゲートウェイは顧客トークンを、顧客のツール用のOAuthトークンにマッピングします
- 顧客は自身のリソースのみにアクセスできます(OAuthスコープによって強制されます)
- プラットフォームは、請求およびサポートのためにツール利用状況に関する完全な可視性を持っています
ユースケース3:セキュアな社内ツール
組織はAIエージェントに内部ツール(データベース、API)を公開したいと考えていますが、厳格なセキュリティ要件があります。
- 内部MCPサーバーはヘッダーベース認証で登録されています
- アクセスはMCPサーバーグループを介して特定のチームに制限されています
- すべてのツール呼び出しはログに記録され、監査されます
- 仮想MCPサーバーは、安全な読み取り専用ツールのみをエージェントに公開するために使用されます
はじめに
TrueFoundry MCP Gatewayの利用開始は簡単です。
- MCPサーバーグループを作成する:MCPサーバーを論理的なグループに整理します
- MCPサーバーを追加する:公開またはセルフホストのMCPサーバーを適切な認証で登録します
- アクセス制御を設定する:どのユーザー/チームがどのサーバーにアクセスできるかを定義します
- アクセストークンを生成する:ユーザーはゲートウェイに接続するためにパーソナルアクセストークンを生成します
- 構築を開始する:プレイグラウンドで試すか、コードに直接統合します
このゲートウェイは、ユーザー認証(OAuth2フロー経由)とマシン間認証(クライアントクレデンシャルグラント経由)の両方をサポートしており、対話型エージェントと自動化されたワークフローの両方に適しています。
チュートリアル:OAuthで保護されたMCPサーバーをゼロから構築し、Truefoundry AI Gatewayと統合する
OAuth2認証を備えた完全なMCPサーバーを構築し、TrueFoundry MCP Gatewayと統合する手順を見ていきましょう。ゲートウェイ経由のユーザー認証とマシン間認証の両方を示すシンプルな計算機MCPサーバーを作成します。
完全なチュートリアルについては、こちらのドキュメントを参照してください - https://docs.truefoundry.com/docs/ai-gateway/mcp-server-oauth-okta
このチュートリアルの完全なコードは、弊社の[GitHubリポジトリ]
このチュートリアルでは、以下を説明します。
- MCPサーバーの構築:FastMCPを使用してLLMが呼び出せるツールを作成する
- OAuth2連携:Oktaを利用してOAuth2でMCPサーバーを保護する
- マシン間認証:ユーザー操作なしでプログラムによるアクセスを可能にする
- ゲートウェイ連携:TrueFoundry MCP Gatewayを介してMCPサーバーへのアクセスを一元化する
- ユーザー認証:ゲートウェイが管理するOAuthフローを介してエンドユーザーが認証できるようにする
ゲートウェイは、OAuthフロー、トークン管理、およびリフレッシュの複雑さを処理し、ユーザーが単一のパーソナルアクセストークンで、許可されたすべてのMCPサーバーにアクセスできるようにします。
なぜこれが重要なのか
AIエージェントがプロトタイプから本番環境へと移行するにつれて、統合アーキテクチャは極めて重要になります。N×Mの統合問題は、単なる理論的な懸念ではなく、信頼性が高く、安全で、スケーラブルなエージェントシステムを構築する上での現実的な障壁となっています。
MCPゲートウェイはもはやニッチなコンポーネントではありません。本番レベルのAIエージェントを構築するあらゆるチームにとって、不可欠なインフラストラクチャです。大規模なエージェントとツールのインタラクションにおけるセキュリティ、可観測性、運用上の複雑さを管理するための、不可欠なコントロールプレーンを提供します。
ゲートウェイを介してツールへのアクセスを一元化することで、今日の問題を解決するだけでなく、将来のためのスケーラブルな基盤を築くことになります。エージェントのエコシステムが成長するにつれて、ゲートウェイもそれに合わせて拡張し、すべてのエージェントとツールのインタラクションにおいて一貫したセキュリティ、可観測性、運用パターンを提供します。
TrueFoundry MCP Gatewayは、AIエージェントを構築するすべてのチームが直面する根本的な統合課題を解決します。エージェントとツールのインタラクションのための、一元化され、安全で、可観測なプラットフォームを提供することで、チームは以下のことが可能になります。
- 開発を加速:開発者は統合の定型作業ではなく、エージェントのロジックに集中できます
- セキュリティを維持:一元化された認証情報管理ときめ細やかなアクセス制御
- 可視性を維持:すべてのエージェントとツールのインタラクションにおける統合された可観測性
- 安心して拡張:ニーズに合わせて成長するアーキテクチャ
AIエージェントを構築しており、N×Mの統合問題に苦慮している場合は、ぜひお気軽にご相談ください。TrueFoundry MCP Gatewayは現在ご利用いただけます。皆様がこれを活用して何を構築されるのか、楽しみにしています。
詳細については、弊社の ドキュメント をご覧いただくか、お客様の特定のユースケースについてご相談ください。
MCPゲートウェイについてどう思われますか?同様の統合課題に直面したことはありますか?ぜひコメントで皆様の経験をお聞かせください。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.














.webp)
.webp)


.png)

.png)














