複数のプラットフォームにまたがる AI Agent のガバナンス管理

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
ほとんどの企業は、5つのプラットフォーム全体で AI Agent を採用しようと意図的に決定したわけではありません。それは自ずと発生したのです。Microsoft Copilot は生産性スイートとともに導入されました。ServiceNow はチケットキューに Now Assist をリリースしました。Salesforce は CRM 内部で Agentforce を有効化しました。その他のデータプラットフォームや SaaS プラットフォームも、記録システム(systems of record)のすぐ隣で Agent の運用を開始しました。各プラットフォームは固有の AI ランタイムを持ち込み、そして静かに、そのプラットフォームの境界で途切れてしまう独自のガバナンス構造を抱え込んでいます。
その結果、単一のアプリケーションプラットフォームベンダーだけでは埋めることが難しいガバナンスギャップが生じています。あるプラットフォーム内の Agent が API を呼び出すとき、誰がそれを認可したのでしょうか?別のプラットフォームの Agent が機密ドキュメントを要約するとき、どのポリシーがその応答を制御したのでしょうか?そして、本番環境で Agent が誤作動を起こしたとき、複数のベンダーコンソールやサポートキュー間で調整することなく、誰が迅速にそれを抑え込むことができるのでしょうか?
これは将来的なリスクではありません。複数の AI プラットフォームを個別に導入したあらゆる組織にとって、すでに直面している運用の現実であり、大企業において急速に一般化しています。
問題の全体像
解決策について話す前に、なぜこれが本質的に難しいのかを正確に把握しておく価値があります。難しさは構造的なものであり、4つの側面で同時に表出します。
そして、ユーザーがサードパーティ製 Agent を使って実際に何かを行おうとした瞬間に初めて表面化する第5の問題が存在します。それが「クレデンシャル税(認証の負荷)」です。
隠れたクレデンシャル税(認証の負荷)
Copilot スタイルのアシスタント内にインストールされた公式のサードパーティ製 Agent に送信される日常的なプロンプトを考えてみましょう。ユーザーが初めてそれに触れたとき、ユーザーがそのサードパーティサービスに直接サインインするまで、Agent は応答できません。

これはバグではありません。各 Agent が個別に提供される製品である場合、これしか安全なアーキテクチャが存在しないのです。しかし、企業全体のツールインベントリ全体に重ね合わされると、実際の運用において以下のような重大な影響を及ぼします。
- ユーザーごと、ツールごとの摩擦(フリクション)。 すべての従業員が、初めて使用するすべての Agent を再認可する必要があります。これを全従業員数、さらにツールインベントリ数で掛け合わせてみてください。
- トークンの散逸(トークンスプロール)。 接続されているすべてのサービスの OAuth トークンが、ユーザーアイデンティティストア全体に散乱することになります。コンプライアンスの管理は、単一の監査ログではなく、ベンダーごとの確認作業へと変わってしまいます。
- 中央集権的な取り消し手段の欠如。 契約が変更されたり、インシデントによってアクセスを遮断する必要が生じた場合、組織は単一のチョークポイント(関門)ではなく、各ベンダーとの関係を個別に追跡して対応しなければなりません。
マルチプラットフォーム・コントロールプレーンの仕組み
このギャップに直接対処するアーキテクチャパターンは、これらすべてのプラットフォームに共通するレイヤーでガバナンスを実行することです。どのプラットフォームにホストされているかにかかわらず、すべての Agent は最終的に LLM 呼び出しまたはツール呼び出しを行います。そこでインターセプトしてガバナンスを効かせれば、すべてのアプリケーションプラットフォームに再構築を求めることなく、その共有実行レイヤーを経由する Agent のアクティビティをガバナンスできるようになります。
これが TrueFoundry の Agent Gateway の前提にある考え方です。本番環境の AI Agent 専用の制御レイヤーであり、すべての Agent が依存するモデルやツールの前段に位置します。TrueFoundry は、ステートレスなプロンプトやトークンを管理する AI Gateway と、Agent 型 AI のデータプレーンである Agent Gateway を明確に区別しています。Agent Gateway は、ステートフルなセッション、マルチステップの実行、および Agent とそのツールの間を移動するデータを管理します。Agent 型システム向けに特別に構築されたサービスメッシュのように機能します。
Gateway の上には第4のレイヤーである Agent Harness が存在します。Harness は LLM の周囲を囲むランタイムであり、計画立案、ツール呼び出し、コンテキスト管理、承認による機密アクションの制限を行い、すべてのステップをトレースに記録するオーケストレーションループです。これにより、単なるモデル呼び出しが、信頼性の高い長期間実行可能な Agent へと変換されます。

TrueFoundry はこれをフレームワークとしてではなく、マネージドサービスとして提供します。サンドボックス化された実行環境が、コードや長時間実行タスクを実行します。Human-in-the-loop(人間の関与)による承認ゲートは、ユーザーが承認するまで重要なツール呼び出しを一時停止します。バージョン管理された Skills Registry は、RBAC を備えた再利用可能な指示を保持します。そして決定的な点として、API キーやクレデンシャルが Agent の定義内に保持されることは一切ありません。これらは Gateway 内に保持され、プラットフォームチームが一度アクセスを設定すれば、Agent 構築者がシークレットに触れることはありません。

重要なのは、ディスカバリーがプラットフォーム上で自ら構築した Agent のみに限定されないことです。Bedrock、LangGraph、カスタム HTTP サービス、または他のベンダーのプラットフォームなど、他所で実行されている Agent も、リモート Agent として同じインベントリに登録され、同じメタデータと同じ制御が適用されます。断片化されていたフリートが、ひとつのマップとしてまとめられます。

注目すべき5つの機能
このギャップをどのように埋めるべきかを評価しているチームにとって、以下の5つの機能は詳細に検討する価値があります。それぞれの機能が内部構造として何を必要とする傾向があるかについての注記も添えています。
プロダクションレベルのアーキテクチャ
コントロールプレーンは、解消すべきボトルネック自体になることなく、実際の負荷に耐えられる場合にのみ有用です。TrueFoundry はエンタープライズスケールで重要となる以下のような数値を報告しています。
完全に自社の環境(VPC、オンプレミス、エアギャップ、またはマルチクラウド)で実行されるため、データが自社ドメインの外に出ることはなく、設計段階から SOC 2、HIPAA、および GDPR への準拠が維持されます。さらに、基盤となる Agent Gateway は Linux Foundation のオープンソースプロジェクトであるため、制御レイヤーが独自のブラックボックスになることはなく、特定のベンダーのフレームワークにロックインされることもありません。
これはプラットフォーム投資を代替するものではありません
最もよくある誤解であるため明確にしておきますが、実行レイヤーでのガバナンスは、すでに使用しているプラットフォームネイティブなツールを置き換える(リプレイスする)ものではありません。機密性の高いナレッジワーカーのデータが M365 内に存在する場合、Microsoft Agent 365 のようなツールが Microsoft エコシステム内のアイデンティティ、データ、配信などの領域を適切に制御します。2026年6月時点の Microsoft のローンチ資料および公開情報によると、Agent 365 は GA(一般提供)時に Registry Sync を通じて AWS Bedrock および Google Gemini Enterprise へとディスカバリー対象領域をクラウドを越えて拡張しました。これはディスカバリーの側面における確かなクロスクラウドの動きです。
同じローンチ資料に基づくと、今日企業における Agent 作業の大部分が実行されている SaaS プラットフォームは、最初の Sync 範囲には含まれていませんでした。2024年から一般提供されている Salesforce Agentforce や ServiceNow AI Agents 内の Agent は、最初の Registry Sync の対象外であり、同期された Agent に対するポリシー適用は、元のプラットフォームではなく依然として Microsoft 自身の制御を経由して行われます。Microsoft のコネクタのカバー範囲は時間の経過とともに拡大する可能性があります。読者はこの詳細に依存する前に現在のリストを確認する必要があります。実行レイヤーは、あらゆるプラットフォームが真に共有する領域であり続けています。

どこから始めるべきか
これが課題を解決するかどうかを確認する最も手軽な方法は、現在最も問題となっている機能に絞って、自社のトラフィックで検証することです。
- サンドボックス VPC に Gateway をデプロイし、実際の Agent トラフィックの一部をそこ経由でルーティングします。レイテンシのオーバーヘッドとオブザーバビリティの出力を確認します。
- 少なくとも2つの異なるプラットフォームから既存の Agent をいくつか登録します。メタデータと統合されたインベントリを確認します。
- いくつかのマルチプラットフォームポリシー(PII フィルター、レート制限、ツール許可リスト)を定義し、対象となる登録/ルーティングされた Agent 全体でそれらが維持されることを確認します。
- 統制パスの抑え込み時間を計測します。トリガーから適用までの時間と、それを証明する監査ログを確認します。
⚠ 免責事項 本記事は、2026年6月時点の公開ベンダー資料の分析に基づき、情報提供のみを目的として TrueFoundry, Inc. によって公開されたものです。表明されているすべての見解は TrueFoundry の組織としての見解であり、個人の執筆者のものではなく、また専門的、法的、または購入に関する助言を構成するものではありません。Microsoft は本記事のレビュー、承認、またはスポンサー提供を行っていません。製品機能、価格、およびロードマップは予告なく変更される場合があります。提示されている数値は公開資料から取得されたもの、または例示目的の図です。オリジナルの分析、テキスト、および図は TrueFoundry, Inc. の財産であり、すべての第三者の製品名および商標はそれぞれの所有者の財産です。アーキテクチャや購入に関する決定を下す前に、現在のベンダードキュメントと照らし合わせてすべての情報をご確認ください。
出典
- Microsoft Learn — Microsoft Agent 365 概要 (GA、観察 / ガバナンス / 保護の柱)。
- Microsoft Learn — Microsoft Agent 365 SDK 概要。
- Windows Central — Microsoft 365 E7 プラン発表 (スタンドアロンで $15/ユーザー/月、E7 バンドルで $99/ユーザー/月)。
- 本記事で言及されている Registry Sync の範囲は、2026年6月時点の Microsoft の公開 GA 資料および当時の報道に基づいています。依存する前に Microsoft のドキュメントで現在のコネクタリストを確認してください。
- TrueFoundry — Agent Gateway 製品ページ (制御の柱、ステートフル Agent メッシュ、99.99% の稼働率、月間100億回以上のリクエスト、~30% のコスト最適化、Linux Foundation プロジェクト、VPC / オンプレミス / エアギャップ デプロイ)。
- TrueFoundry Docs — AI Gateway (1,000 以上の LLM、レイテンシオーバーヘッド) および Agent Harness 概要 (マネージドランタイム、サンドボックス、HITL 承認、Skills Registry、キー不要のクレデンシャルモデル)。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.















.webp)
.webp)


.webp)
.webp)

.webp)
.webp)
.png)

.png)
.png)






