AIエージェントのためのグラフエンジニアリング:接続のガバナンス

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
企業は、従業員、サービス、ベンダーの思考をすべて監視することで重要な業務を管理しているわけではありません。企業が管理しているのは、それらの業務を取り巻くインターフェースです。つまり、どのシステムにアクセス可能か、どの操作に承認が必要か、どの認証情報を使用できるか、支出の上限はいくらか、どの情報が境界を越えてよいか、そしてどのような記録を残すべきかといった点です。AIエージェントにも同様の組織的な直感が必要ですが、一つ重要な要素が加わります。 モデルには依然として評価が必要です。 テストとモニタリングは、定義された条件下でコンポーネントがどのように動作するかを明らかにします。一方、実行時の制御は、本番システムに接続された際にそのコンポーネントに何を許可するかを決定します。
この区別こそが、以下の概念を考える上で最も有益な視点です。 グラフエンジニアリング。この用語はまだ新しいものですが、エンジニアリング上の課題はすでに具体的です。エージェントのエコシステムは、モデル、ツール、サービス、データソース、サンドボックス、人間、そして他のエージェントからなるグラフです。すべての重要なエッジ(接続)には権限が伴います。企業がなすべきことは、ノードの評価かグラフのガバナンスかを選択することではありません。両方を行うこと、そしてどのレイヤーがどの制御を担うべきかを理解することです。
1. ノードを評価し、エッジをガバナンスする
エージェントのガバナンスを、モデルの不透明さに対する反応として捉えたくなるかもしれません。「モデルの内部は検証が困難だから、インターフェースだけを管理すればよい」という考え方です。しかし、それは行き過ぎです。NISTのAIリスクマネジメントフレームワークは、使用前のデプロイ環境に近い状態での評価と、本番環境におけるAIシステムの動作監視を求めています。また、OWASPのエージェントセキュリティガイダンスは、敵対的テストと最小権限の原則、認可、承認、ログ記録、モニタリングを組み合わせています。したがって、成熟した姿勢とは、これらを補完的に用いることです。 評価は動作を予測し、エッジ制御は権限を制限します。
この組織的なアナロジーは、このように範囲を限定することで有用になります。財務チームは従業員の判断だけに頼るのではなく、アカウントへのアクセスを制限し、二重承認を義務付けています。本番環境のエージェントも、プロンプトの指示だけに頼るべきではありません。実行環境やゲートウェイを通じて、機密情報の境界を明確にし、強制力を持たせる必要があります。このアナロジーは文字通りの意味ではありません(人間とモデルは同じ種類の主体ではありません)が、制御の目的は驚くほどよく一致しています。

発見(ディスカバリー)はセキュリティ境界ではない
この区別は、ツールの発見において特に重要です。TrueForgeは、遅延ツール読み込みやその他のコンテキストエンジニアリングメカニズムを文書化しており、アクティブなコンテキストを小さく保つことができます。これにより、選択の質が向上し、ツールスキーマへの不必要な露出を減らすことができます。しかし、それは それ自体で 呼び出しを認可するものではありません。エステート(環境)レベルの認可は、呼び出し元を特定しポリシーを適用するアクセス制御レイヤーが担うべきものです。TrueFoundryの AIゲートウェイのアクセス制御 ユーザー、チーム、アプリケーションごとのモデルアクセスを管理します。一方、 MCPゲートウェイの認証およびセキュリティモデルは、 インバウンドのID、ツールやサーバーの権限、ダウンストリームの認証情報を個別に解決します。
2. 設計されたグラフと実行されたグラフは別物である
アーキテクチャ図は意図の宣言に過ぎません。本番環境の証跡こそが、計測されたシステムが実際に観測した記録です。両者が乖離するのはごく自然なことです。プロトタイプツールが接続されたままになっていたり、フォールバックルートが作動したり、委任されたタスクが分岐したり、OAuthの許可範囲が変更されたり、あるいはエージェントが図の作成者の想定外の経路を辿ったりするためです。このギャップこそが、グラフガバナンスが単なるアーキテクチャ上の概念から、運用上の実務へと変わる地点です。

しかし、「実際のグラフはトレースの中に存在する」と考えるのは単純すぎます。単一のトレースソースだけで完全に網羅できることはありません。有用な再構築を行うには、各レイヤーが保持する証跡を組み合わせる必要があります。
- オーケストレーター: グラフのトポロジー、ノードの状態、ルーティング、リトライ、結合、および委任の決定。
- ハーネス: モデルとツールのループステップ、サンドボックスの使用状況、承認チェックポイント、セッション状態、およびランタイムから可視化されるイベント。
- ゲートウェイ: 認証済みのモデル/MCP呼び出し、アクセス制御ポリシーの結果、予算やレート制限、レイテンシ、コスト、およびゲートウェイから確認できるリクエストトレース。
- ダウンストリームシステム: データベースの変更、チケットの更新、支払い、デプロイ、権限変更など、実際に発生したビジネス上の副作用に関する信頼できる記録。

したがって、監査において問うべきは「トレースが図と一致しているか?」ではなく、「意図したトポロジーと、十分なランタイムおよびシステム記録の証跡を関連付け、重大なアクションを説明できるか?」ということです。これははるかに高いハードルですが、それゆえにより有用な問いとなります。
3. TrueForge:実行ループを検証可能に保つ
ハーネス層におけるガバナンスの課題は、モデルに関する運用上の意思決定が可視化され、設定可能であるかどうかです。TrueForgeの パブリックリポジトリ では、ランタイムについて明確に説明されています。つまり、モデル呼び出し、MCPツール、スキル、サンドボックス化、承認、コンテキスト管理、セッション状態にわたるエージェント実行ループを実行するものです。同リポジトリでは、ハーネス内にシークレットを保持する「ツールとしてのサンドボックス」、人間によるチェックポイント、サブエージェント、遅延ツール読み込み、大規模な結果のオフロード、コンパクション、そしてローカルモードとホストモードの両方について文書化されています。リポジトリでは、ローカルモードを単一マシンでの評価用パスとして明示的に位置づけており、本番環境やインターネットに公開するセットアップ用ではないとしています。共有環境や本番環境での利用はホストモードで行うべきです。なお、MITライセンスで公開されています。
このオープンさは、ライセンス上の理由だけでなく、ガバナンスの観点からも有益です。ソースコードが利用可能であることで、実装レベルでの検証や修正が可能になります。これは、デプロイされたインスタンスが安全であることや、正しく設定されていること、あるいは特定のコミットと同一であることを証明するものではありません。それらには依然としてソフトウェアサプライチェーン管理や運用上の統制が必要です。しかし、クローズドなランタイムにはない利点をプラットフォームチームにもたらします。それは、信頼を求められている実行メカニズムを自ら検証し、必要に応じて実行や修正を行えるという点です。TrueFoundryのローンチ記事である Introducing TrueForgeでは、その位置づけが明示されており、 Why Agent Harnesses Should Be Open では、ビジネス上のトレードオフが直接的に述べられています。つまり、ハーネスはオープンに保ち、組織が実際に必要とした段階で中央集権的なガバナンスを追加せよ、というものです。
TrueForgeを推進する上で最も強力な方法は、それがグラフ全体を所有していると主張することではありません。実際、そうではありません。任意のマルチエージェントオーケストレーターがハーネスの上位でトポロジーを所有している可能性があり、接続されたシステムはそれぞれ独自の認証および監査セマンティクスを保持しています。TrueForgeの役割はより限定的で、説得力のあるものです。それは、 実行ループを検証可能、ポータブル、かつランタイム境界でガバナンス可能な状態にすることです。
4. TrueFoundry:エステートがフリートへと拡大した際にポリシープレーンを追加する
単一のハーネスであれば、その実行を自ら管理できます。しかし、エージェントのエステート(資産群)が拡大すると、認証情報、アクセス権限ポリシー、支出管理、証跡などがチーム間で断片化し始めるという新たな問題が生じます。そこで、TrueFoundryのゲートウェイが補完的な層として機能します。
その AI Gateway は、中央集権的なアクセス制御、レート制限、予算制限、可観測性を備えた統合モデルインターフェースを提供します。その 予算ルール は、ユーザー、チーム、モデル、仮想アカウント、またはメタデータごとに支出の範囲を制限できます。また、 メトリクスダッシュボード は、LLMやMCPのアクティビティ、コスト、エラー、ルーティング、ガードレール、その他の運用シグナルを集約します。その MCP Gateway は、インバウンド認証、ツール/サーバーのアクセス制御、アウトバウンド認証を分離することで、エージェントがそれぞれ個別に認証情報の管理という複雑な問題に対処する必要をなくします。
これにより、明確なアーキテクチャのストーリーが生まれます。
したがって、製品のメッセージは「TrueFoundryがすべてのグラフのあらゆるエッジを統制する」というものではありません。それは技術的に不正確であるだけでなく、戦略的にも説得力に欠けます。より強固な主張は以下の通りです。 TrueForgeはエージェント実行ループのためのオープンなハーネスを提供し、TrueFoundryのゲートウェイは、意図的に経由させたモデルおよびMCPトラフィックに対するポリシーとエビデンスを一元管理します。 オーケストレーターとダウンストリームシステムは引き続き制御の対象であり、これこそが堅牢なインフラストラクチャのあり方です。
5. リーダーシップテスト
これらの問いは、「どのモデルを使用したか?」という問いよりも、意図的に運用面に重きを置いています。モデルの選択は、能力、安全性、レイテンシ、コスト、評価結果の観点から依然として重要です。しかし、エージェントが自律的に行動できるようになると、ガバナンスの対象範囲は拡大します。適切に管理された環境では、デプロイ前の評価と、実行時の認可、そして事後のエビデンスを紐付けられるべきです。つまり、モデルに何を期待したか、何を許可したか、計測された境界を通じて実際に何を行ったか、そして記録システムに何が残っているかを把握することです。
これこそが、ガバナンスの姿勢としてのグラフエンジニアリングが持つ永続的な価値です。目新しさは、企業が突然グラフを発見したことではありません。AIエージェントによって、これまで馴染み深かった組織的な制御がソフトウェアのエッジでプログラム可能になったこと、そしてそれらのエッジでのアクションが高速かつ反復可能になり、ある程度自律的になったことで、従来の非公式なガバナンスでは対応できなくなったという点にあります。
範囲、手法、および開示事項
TrueFoundryは本エッセイを公開し、TrueForgeを保守し、ここで論じているAI GatewayおよびMCP Gatewayを販売しています。したがって、製品のマッピングには商業的な意図が含まれており、その旨を明記します。本改訂版における製品の主張は、TrueFoundryのライブページまたは現在のTrueForge公開リポジトリに記載されている動作に限定されます。組織に関する例えは編集上の枠組みであり、人間組織とAIシステムが同等であると主張するものではありません。「グラフエンジニアリング」は依然として新しい用語であり、リンク先のTrueFoundryエンタープライズガイドでその起源と現在の製品境界について議論しています。本エッセイは、エッジ制御がモデルやシステムの評価に取って代わること、トレースがデフォルトで完全であること、あるいはTrueFoundryがトラフィックが流れる境界の外側まで統制していることを主張するものではありません。
参考文献
- TrueFoundry — マルチエージェントシステムのためのグラフエンジニアリング:アーキテクチャ、ガバナンス、およびオブザーバビリティ。
- TrueForge公開リポジトリ — 現在のランタイムスコープとMITライセンス。
- TrueFoundry — TrueForgeの紹介:私たちが本番環境で運用しているオープンソースのエージェントハーネス。
- TrueFoundry — なぜエージェントハーネスはオープンであるべきか。
- TrueFoundry — ループこそが新しいミドルウェア。
- TrueFoundry AI Gateway — はじめに; アクセス制御; 予算制限; メトリクスダッシュボード。
- TrueFoundry MCP Gateway — 認証とセキュリティ。
- NIST AI RMF Core — 測定(Measure)。
- OWASP AIエージェントセキュリティチートシート。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.





















