TrueFoundryとKongの比較

Kongはプラグインエコシステムを通じてAI機能を追加した汎用APIゲートウェイです。一方、TrueFoundryはAIワークロードのためにゼロから構築された、ベンダー中立の完全なAIインフラプラットフォームです。AIゲートウェイ、MCPゲートウェイ、エージェントゲートウェイ、そしてモデルデプロイメントのすべてを、VPC内で完全に動作するKubernetesネイティブなシステムとして統合しています。プラグインのバージョン管理や、主要なAI機能に対するエンタープライズライセンスの制限、汎用APIゆえの複雑さに悩まされることはありません。クラウドを問わず、あらゆるモデル、ライブラリ、フレームワークをサポートしています。独立したファウンダー主導の企業として、当社のロードマップはエンタープライズAIインフラのニーズのみに基づいて策定されています。

AIの要件が安定しており、外部APIルーティング、基本的なガバナンス、既存スタック上の可観測性といったKongのプラグインモデルの範囲内に収まるのであれば、Kongを拡張するのは合理的な選択です。しかし、MCPガバナンス、セマンティックガードレール、セルフホストモデルレベルでのコスト配分といったAI特有の機能が必要になると、エンタープライズライセンスや特定のプラグインバージョンが必要となり、複雑さが増します。また、セルフホストモデルのデプロイ、エージェントインフラ、完全なデータ主権へとニーズが進化するにつれ、汎用的なKongのアーキテクチャは足かせとなり始めます。AIインフラの将来を見据えた際、プラグインアーキテクチャに縛られる前に、AI専用に設計された代替手段としてTrueFoundryを検討する価値があります。

TrueFoundryは、MCPガバナンスのための専用環境を提供します。ツール実行前後のガードレールフック、仮想MCPサーバー、Cedarベースのポリシーエンジン、インバウンドOAuth、認証情報分離のためのシークレットグループなど、すべてがKubernetesクラスター内で動作し、即座に本番環境へ導入可能です。KongのAI MCPプロキシ、ツールごとのACL、AI MCP OAuth2は、真にネイティブなMCP制御面を実現しており、既存のKongユーザーであれば段階的に導入できます。しかし、実用上の課題は複雑性にあります。KongのMCP実装では、直接的なMCPルートとLLM側のAIプラグインフローを分離するために、ルートトポロジーの慎重な管理が求められます。これは、エージェントのワークロードが複雑化するにつれ、運用上の大きな負担となります。

TrueFoundryは、認証、レート制限、ガードレール、PII/PHI検出、トレースといったホットパスのすべてを、外部依存関係なしにKubernetesクラスター内で実行します。完全なデータ主権がデフォルトのアーキテクチャであり、設定オプションではありません。Kongは強力なデータガバナンスプラグインカタログを備えていますが、規制産業で不可欠な「PIIの双方向サニタイズと復元」や「高度なコンプライアンス制御」といった機能は、エンタープライズライセンスの制限やバージョン依存があります。コンプライアンスが譲れない要件であるチームにとって、ライセンス階層への依存は早期に検証しておくべきリスクです。

TrueFoundryは、ゲートウェイガバナンスと実行ライフサイクルの両方を単一のアーキテクチャから明示的に文書化している唯一のプラットフォームです。ガードレールは、LLMへの入力、出力、ツール呼び出し前後など、エージェントライフサイクルのあらゆるポイントで機能します。また、スプリットプレーン設計により、ゲートウェイがトラフィックを制御し、非同期サービスが長期にわたるループ処理を確実に実行します。KongのAI MCP Proxyは、別のガバナンスプレーンなしでツールトラフィックをプラグインエコシステムに取り込めるため、既存のKongユーザーには非常に有益です。しかし、ネイティブな非同期実行基盤がないため、長時間実行されるエージェントループには、チームが個別に構築・保守するアプリケーション側のオーケストレーションが必要となります。

TrueFoundryは、導入直後からフルスタックの可視性を提供します。LLMのリクエストトレースとGPUメモリ、Podの健全性、コンテナログが単一のUIで確認でき、有益な情報を得るための複雑な設定は不要です。Kongのオブザーバビリティは、すでにOTel/Prometheus/Grafanaスタックを運用しているチームにとっては非常に強力で、LLMトラフィックを既存のパイプラインに統合できます。ただし、セットアップにはトレードオフがあります。AIコストやトークンメトリクスを表示するには明示的なプラグイン設定が必要であり、プロンプト本文のキャプチャには、有用なメトリクスを得る前に慎重なマスキング戦略を策定する必要があります。

TrueFoundryは、GitOpsと最も深く統合されたプロンプト管理を提供します。レジストリでのバージョン履歴管理、比較・差分ワークフロー、CIゲートとしてのプロンプトバージョン参照、そしてデプロイ前のドライランや差分プレビューが可能です。プロンプトの変更とインフラの変更を同一のパイプラインで管理できます。KongのdecKはゲートウェイ設定において堅牢なGitOpsを提供し、AI Prompt Decoratorはゲートウェイレベルでのプロンプトインジェクションを適切に処理します。しかし、プロンプトのライフサイクル管理という点では、バージョン管理レジストリやスタンドアロンのプレイグラウンド、モデルごとのプロンプトオーバーライド機能が不足しています。プロンプトの反復的な改善を行い、CIゲートによるデプロイを必要とするチームにとって、Kongのツールセットでは不十分です。