エージェントからループ、そしてグラフへ:エージェント型システムの本番アーキテクチャ

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
2026年8月18日付で広く共有されたXの投稿では、2時間の解説動画がアンドリュー・エンによるものとされ、エンジニアリングスコープの有用な段階的拡大が提示されています。9:14で最初の動作するエージェント、33:11でループ、1:02:46でループからグラフへ、1:30:15で自らのコードを修正するエージェント、そして1:49:05でシステムを統合するオーケストレーション層が登場します。この記事では、属性が正しいかどうかに依存せず、タイムスタンプ付きの概要を本番アーキテクチャの出発点として使用します。
これらのラベルが標準的な用語になるかどうかに関わらず、この段階的変化は有用です。なぜなら、各ステップで異なるシステム的問いが追加されるからです。単一のエージェントは能力とツール利用の問いを提起します。永続的なループは状態、リカバリ、コンテキスト、および承認の懸念を追加します。グラフはトポロジ、調整、および委任を追加します。自己修正は検証、封じ込め、およびプロモーションの問いを提起します。オーケストレーションは、組み合わされたシステムを運用上の課題へと変えます。
1. 最初のエージェントは機能であり、ループがそれをシステムにする
提供された投稿の最初のマイルストーンは、最も認識しやすいものです。1つのエージェントを実行させることです。モデルに目標、ツールインターフェース、そしてアクションを選択するのに十分な状態を与えます。これが、言語モデルが単なるテキスト生成器であることをやめ、システムに参加し始める瞬間です。
しかし、単一のアクションは運用の複雑性が蓄積する場所ではありません。複雑性は、エージェントが継続しなければならないときに現れます。結果を観察し、タスクが完了したかどうかを判断し、別のツールを呼び出し、失敗した呼び出しから回復し、コンテキストを圧縮し、承認を求め、あるいは翌日に再開する、といった場合です。
だからこそ、TrueFoundryの6月のループエンジニアリングに関する記事では、この領域を次のように定義しました。
このフレーズが重要なのは、1つの優れたプロンプトから注意を逸らすからです。ループが人間なしで有用な作業を行うようになると、設計上の問いは通常のシステム的な問いになります。状態がどこに存在するのか、どのアクションが再試行可能か、失敗を何回繰り返してよいか、いつ人間が介入すべきか、どのコードが実行可能か、どの認証情報にアクセスできるか、そして後からどのように実行を再構成するか、ということです。

2. グラフはループを置き換えるものではなく、ループやその他のノードを配置するもの
提供されたX投稿の次の概念的跳躍—ループからグラフへの移行—は、過度な期待が有用なエンジニアリングを隠してしまう可能性がある場所です。グラフは定義上「より多くのエージェント」を意味するわけではありません。本番のグラフには、エージェント、決定論的関数、ルーター、結合、キュー、人間のチェックポイント、評価器、データベース書き込み、および通常のサービスが含まれる場合があります。
TrueFoundryの7月のグラフエンジニアリングガイドは、その関係を簡潔にまとめています。
グラフまたはオーケストレーターは、次のような問いを保持します。どのノードが次に実行されるか?2つのブランチを並列実行できるか?どの結果が結合を解除するか?1つのブランチが失敗した場合はどうなるか?どのエージェントが他のどのエージェントに委任できるか?どのパスで人間のチェックポイントが必要か?Agenticノード内の複数ステップループは、異なる一連の問いを保持します。エージェントがどのコンテキストを見るか、どのツールを選択するか、観察結果をどのように処理するか、いつ再試行するか、そしてローカル作業がいつ完了するか、です。

まず、「グラフ」の2つの意味を分離する
ソーシャルメディア上の構成では、「Agentic Knowledge Graph」という表現が使われています。この wording は、2つの異なるアーキテクチャを混同させる可能性があります。ナレッジグラフは情報内のエンティティと関係を表現します。エージェント実行グラフは、アクター、計算ノード、遷移、依存関係、および作業状態を表現します。一方が他方にデータを提供することはできますが、これらは異なる問いに答えるものです。
リサーチエージェントがナレッジグラフにクエリを実行し、その後の検証を2番目のエージェントに委任する場合、ナレッジグラフはシステムが「知っている」ことの一部であり、実行グラフはシステムが「行う」ことを記述します。
3. エッジは多くのエンタープライズコントロールが強制可能になる場所である
グラフ図は、ノードとエッジが権限を持つようになったときに運用可能になります。エッジは「このモデルを呼び出す」、「このMCPツールを実行する」、「この顧客レコードを別のエージェントに渡す」、「このパッチを書き込む」、または「このアーティファクトをデプロイする」ことを意味する場合があります。それらの遷移が重要な影響を持つようになると、トポロジとガバナンスは不可分になります—ノードの評価、グラフの状態、および下流の認可がガバナンスストーリーの同様に重要な部分であり続けたとしてもです。
TrueFoundryの最近のグラフエンジニアリング投稿では、エンタープライズの姿勢を別の短い表現に凝縮しています。
これは、グラフエンジニアリングをモデル評価の代替手段として扱うよりも優れた枠組みです。ノードの動作は依然として評価します。しかし、評価だけでは、本番データベースによる書き込みの拒否、予算の強制、あるいは破滅的な操作前の承認要求を行うことはできません。関連するトラフィックが通過する際に、実行時、ゲートウェイ、および下流の認可境界がこれらの制約を強制できます。

実用的な意味合いとして、影響の大きいすべてのエッジは、次の5つの問いに答える必要があります。
4. 自己修正エージェントには承認ゲートが必要である
提供された投稿における1:30:15のマイルストーン—自身のコードをリファクタリングまたはアップグレードするエージェント—は、アーキテクチャが単なる構成にとどまらず、再帰的になる瞬間です。システムは、後の動作を形成することになるメカニズムに対する変更を提案するようになります。
これは強力ですが、安全な抽象化は「エージェントが自らを改善する」ということではありません。それは次のようなものです。
コード作成エージェントは、サンドボックス内にパッチを作成できます。独立した検証器が、テスト、静的チェック、ポリシーチェック、回帰評価またはタスク固有の評価、および変更に適した事後条件を実行できます。影響の大きいプロモーションについては人間が承認を行うことができます。バージョン管理またはアーティファクトレジストリが、承認されたバージョンを記録し、ロールバックを可能にする必要があります。変更を提案した実行時環境が、その変更を受理するために使用される唯一の証拠をコントロールすべきではありません。
グラフ構造はここで役立ちます。なぜなら、検証を同じプロンプト内の別の文章にするのではなく、独立した権限を持つ別のノードにすることができるからです。これがグラフが重要である最も深い理由の1つです。グラフによって、独立した判断をトポロジへと変換できるようになります。
5. TrueForgeの適合場所:ノード内のオープンな実行ループ
ここが、TrueForgeをマッピングするのに最も明確な場所です。公開ドキュメントでは、オープンソースのエージェントハーネスとして定義されています。LLMを取り巻く実行時層であり、エージェント実行ループを実行し、モデル呼び出し、MCPツール、スキル、サンドボックス化、承認、サブエージェント、コンテキスト管理、および再接続や再起動を乗り越えて生き残るセッション状態を接続します。
これは、TrueForgeが任意のマッチエージェントグラフを所有することを意味するものではありません。グラフはアプリケーションコード、ワークフローシステム、または別のオーケストレーションフレームワークで定義される場合があります。より明確で狭いマッピングは次のとおりです。グラフノードがAgenticである場合、TrueForgeはそのノードを単に一度モデルを呼び出すだけの関数ではなく、真の長期実行ループにする実行時環境となることができます。
TrueForge公式ドキュメントより: TrueForgeは「オープンソースのエージェントハーネス」と説明され、そのサーバーは「エージェントループを実行」します。だからこそ、グラフ自体を置き換えるのではなく、Agenticなグラフノード内に明確にマッピングされます。

図4. パブリックなTrueForgeリポジトリおよびドキュメントからの公式TrueForgeアーキテクチャ図。TrueForgeサーバーとエージェントループを、クライアントサーフェスと独自の永続化、モデルプロバイダー、MCPサーバー、およびサンドボックスプロバイダーの間に配置しています。
出典: TrueForge — official architecture asset; TrueForge Introductionも参照してください。
TrueFoundryの最近のループに関するエッセイでは、運用上の決定がそこに蓄積されるため、この層をミドルウェアと呼んでいます。このフレーズが有用である理由はまさに、グラフが変化しても、そのノード内の実行時の問題(状態、コンテキスト、承認、分離、および証拠)が根強く馴染みのあるままであるためです。
6. TrueFoundry Gatewaysの適合場所:ルーティングされたトラフィックのための共有ポリシー
グラフにモデルやツールを使用する複数のノードが含まれるようになると、それらは異なるモデルを選択したり、独立して再試行したり、異なるレートで呼び出したり、異なる予算を消費したり、あるいは異なるMCPサーバーにアクセスしたりする可能性があります。すべてのノードがプロバイダーやツールを直接統合すると、グラフはプライベートなコントロールプレーンの集まりになってしまう可能性があります。
TrueFoundry AI Gatewayは、モデルトラフィックのための共有インフラストラクチャとしてここで役立ちます。アクセス制御、仮想モデルのルーティングとフォールバック、レート制限、予算制限、ガードレール、およびそこを通過する呼び出しの要求トレースとメトリクスを備えた、モデル向けの単一のインターフェースを提供します。MCP Gatewayを介してルーティングされるMCPトラフィックに対して、TrueFoundryはインバウンド認証、サーバー/ツールアクセス制御、アウトバウンド認証、承認、およびゲートウェイレベルの監査可能性を個別に集中管理できます。
重要なフレーズは、そこを通過するリクエストに対してということです。ゲートウェイは、自身をバイパスするトラフィックを統制することはできず、グラフのトポロジを推論することもありません。オーケストレーターは、アプリケーション制御のリクエストメタデータ(ドキュメント化されたX-TFY-METADATAヘッダーなど)でgraph_id、run_id、およびnode_idなどの識別子を伝播できます。これにより、その相関関係が役立つ場合に、ゲートウェイのログやメトリクスをグラフレベルの識別子に対してフィルタリングまたはグループ化できます。
TrueFoundry公式ドキュメントより: AI Gatewayは、アプリケーションとモデルプロバイダーの間のプロキシ層であり、そのパスを取り巻くアクセス制御、ルーティング、レートおよび予算制御、ガードレール、ならびに可観測性を備えています。MCP Gatewayは、インバウンド認証、サーバー/ツールアクセス制御、アウトバウンド認証、およびMCPトラフィックのためのツール承認を文書化しています。グラフにおいて、これらはルーティングされたトラフィックのための共有ポリシー面であり、グラフオーケストレーターではありません。

図5. 公式のTrueFoundry AI Gatewayアーキテクチャ図。ファーストパーティのリファレンスアーキテクチャは、リクエストがモデルプロバイダーに到達する前にガバナンスを適用する中央ゲートウェイに、さまざまなAIクライアントサーフェスが集約される様子を示しています。
出典: TrueFoundry — Govern All AI Traffic Through the AI Gateway。HTMLでは、公式ドキュメントの資産を直接使用しており、書き直しではなくTrueFoundryがホストするファーストパーティのフォールバックを使用しています。
これは、単一のプラットフォームが「グラフエンジニアリングを行う」と主張するよりも強力な製品ストーリーです。グラフはアーキテクチャに属します。TrueForgeはAgenticノード内の実行ループを提供できます。AI Gatewayは、ルーティングされた呼び出しのための共有モデルコントロール面を提供できます。MCP Gatewayは、ルーティングされたMCPトラフィックのための認証、ツール/サーバー権限、下流の資格情報処理、承認、およびその他のコントロールを集中管理できます。オーケストレーターと下流のシステムは、ガバナンスストーリーの一部であり続けます。
7. 運用者のテスト:実行されたグラフを説明できるか?
設計されたグラフは、アーキテクチャ図に現れるものです。実行されたグラフは、特定の実行で発生したことです。これらは自動的に同じオブジェクトになるわけではありません。
フォールバックモデルが有効化される場合があります。委任されたタスクが展開(ファンアウト)される場合があります。ツールが拒否される場合があります。検証器が作業を差し戻す場合があります。承認によって1つのブランチが何時間も保持される一方で、別のブランチが完了する場合があります。自己修正ノードが、プロモーションされないパッチを生成する場合があります。
したがって、本番環境のテストは「グラフがあるか?」ではありません。チームが層を超えて、結果を伴う実行を再構成できるかどうかです。
グラフ監査。 本番環境のアクションを1つ選択し、逆方向にトレースします。どのグラフノードがそれを開始したか?どのローカルループが決定を生成したか?どのモデルが各呼び出しを処理したか?どのようなコンテキストとツール面が利用可能だったか?どの予算、レート規則、またはガードレールが適用されたか?サンドボックスや承認境界は存在したか?どのエッジがアクションを搬送したか?そして、何が実際に変更されたかを証明する下流の記録はどれか?答えが「エージェントが決定した」で終わる場合、グラフにはまだ運用モデルが欠けています。
8. このアーキテクチャが主張すること、および主張しないこと
提供されたX投稿は有用な学習マップですが、一次情報源がない限り、そのソーシャルメディアの構図を歴史的または属性的な主張にすべきではありません。投稿と転載されたコピーが上記のタイムスタンプシーケンスを使用していることは確認できましたが、基礎となる正確な2時間のコンテンツがアンドリュー・エンの出版物であるかどうかは独自に確認できていません。DeepLearning.AIの公式カタログは現在、別のコースコンテンツと講師を示しているため、ここでのタイムスタンプは動画に対する投稿の説明としてのみ解釈されるべきです。
また、「グラフエンジニアリング」も依然として新興のラベルです。コアとなるメカニズムは単体で新しいものではありません。DAG、アクターシステム、ワークフローエンジン、分散調整、ポリシー強制、および人間のチェックポイントにはすべて長い歴史があります。注目に値するほど新しいのは、エージェント型システムが、アクションを実行し、委任し、アーティファクトを変更し、長期にわたって実行できるモデル駆動型ノードの周りにそれらのメカニズムを集中させている方法です。
最後に、TrueForgeもTrueFoundryのゲートウェイも、グラフ全体を所有していると説明されるべきではありません。TrueForgeは、自身が実行するエージェントループを運用および記録します。AIおよびMCP Gatewayは、それぞれの境界を介してルーティングされたトラフィックのみを統制します。オーケストレーターはトポロジとグラフ状態を所有します。下流のシステムは、独自の認可と副作用に対して権威を持ち続けます。真のグラフエンジニアリングは、それらの境界を明確に保つことから始まります。
参考文献
- 提供されたX投稿 — タイムスタンプ付きの展開に関するソーシャルメディア情報源。基礎となる正確な2時間のコンテンツがアンドリュー・エンの出版物であるかは独自に検証されていません。
- DeepLearning.AI — Agentic AI — 現在のアンドリュー・エンのコース掲載(7時間45分)。公式カタログと話題になった2時間の属性記述を区別するために含まれています。
- DeepLearning.AI — Agentic Knowledge Graph Construction — Andreas Kolleggerが教える現在のコース掲載(3時間8分)。出所の明確化のために含まれています。
- Boyu Wang — Graph Engineering for Multi-Agent Systems: Architecture, Governance, and Observability. TrueFoundry (2026).
- Boyu Wang — Graph Engineering for AI Agents: Govern the Connections. TrueFoundry (2026).
- Boyu Wang — Loop Engineering at Enterprise Grade: From Laptop Loops to Governed Runtimes. TrueFoundry (2026).
- Boyu Wang — The Loop Is the New Middleware: Loop Engineering as an Enterprise Strategy. TrueFoundry (2026).
- TrueForge — Introduction および Harness Capabilities.
- TrueFoundry AI Gateway — Introduction; Custom Metadata and Headers; Metrics Dashboard.
- TrueFoundry MCP Gateway — Authentication and Security.
情報開示:TrueFoundryは本記事を公開し、TrueFoundry AI GatewayおよびMCP Gatewayの販売ならびにTrueForgeの保守を行っています。製品に関する主張は、現在の公開されているTrueFoundryおよびTrueForgeの資料に記載されている動作に限定されます。時系列に沿った経緯は提供されたXの投稿に基づいており、その経緯から上記のプロダクションアーキテクチャへのマッピングはTrueFoundryの社説分析によるものです。Andrew Ng氏による承認、同氏からの声明として提示されるものではなく、また同氏に帰属するものでもありません。参考文献リストの著者表記は、引用されているTrueFoundry記事の個人の署名を特定するものであり、それらの記事は引き続きTrueFoundryが発行する資産となります。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.












.png)
.png)
.png)








.png)

.png)


.png)

.png)






