Blank white background with no objects or features visible.

EMEAの皆様へ。TrueFoundryは、ヨーロッパ、中東、アフリカ全域で事業を拡大しています。詳細はこちら →

TrueFoundryとGCPの連携方法:コントロールプレーンアーキテクチャ

By TrueFoundry

Updated: November 3, 2026

Published: July 2, 2026

Google Cloud Platform (GCP) 上にGenerative AIを展開するには、 Google Kubernetes Engine (GKE)、Cloud TPU、 Vertex AI などの複雑なプリミティブ群をオーケストレートする必要があります。GCPは生のマシンリソースを提供しますが、これらを要件に準拠したInternal Developer Platform (IDP) として組み上げるには、大規模なカスタムエンジニアリングが必要です。

TrueFoundryはインフラストラクチャオーバーレイとして機能します。当社がオーケストレーションを処理するため、お客様はVPCやデータレジデンシーに対する完全な制御権を保持できます。本記事では、特にスプリットプレーンアーキテクチャ、 Workload Identity Federation、TPU管理に関するGCPとの統合パターンを詳しく解説します。

デプロイメントモデル:スプリットプレーンアーキテクチャ

管理インターフェースとワークロード実行環境を分離するために、スプリットプレーンアーキテクチャを採用しています。

  1. コントロールプレーン: 当社がホストするAPIサーバーおよびダッシュボード。メタデータ、RBAC、ジョブスケジューリングを処理します。
  2. コンピュートプレーン: お客様のGKEクラスタ上で直接実行されるAgentおよび Controller。モデルの重み、顧客データ、推論を処理します。

セキュリティ境界 インバウンドのファイアウォールルールは不要です。クラスタ内のAgentが、当社のコントロールプレーンへの安全なアウトバウンド専用WebSocketまたはgRPCストリームを開始します。Agentはデプロイマニフェストをポーリングし、テレメトリを送信します。お客様のVPCは外部からのイングレスアクセスに対してプライベートに保たれます。

図1:スプリットプレーンアーキテクチャにより、データ処理が顧客のVPC内に隔離されます。

ネットワークトポロジー

高いパフォーマンスを実現するため、 Alias IP を使用したVPCネイティブクラスタとしてコンピュートプレーンを構成します。すべてのコンピュートリソースはプライベートサブネット内に配置されます。

イングレス(推論リクエスト) アプリケーションのトラフィックは、 Cloud Load Balancing(通常はGlobal External ALB)を経由してVPCに入ります。ALBはTLSをターミネートし、GKEクラスタ内で動作する Istio Ingress Gateway にリクエストを転送します。

Private Google Access コンプライアンスを維持するため、Google API(Cloud Storage、Vertex AI)へのトラフィックは Private Google Access を経由してルーティングされます。これにより、推論podとGCPマネージドサービス間のトラフィックはパブリックインターネットをバイパスし、Googleのネットワークバックボーン上に維持されます。

エグレス GKEワーカーノードが Artifact Registry からコンテナ画像をプルするには、アウトバウンドアクセスが必要です。このトラフィックは、プライベートサブネットにアタッチされた Cloud NAT を経由してルーティングします。

図2:イングレスとプライベート接続の詳細を示すネットワークトラフィックフロー。

アイデンティティフェデレーション

静的なService Accountキー(.jsonファイル)の廃止を徹底しています。TrueFoundryは、すべてのワークロード認証に対してGKE Workload Identityを実装します。

認証シーケンス

  1. 作成: サービスをデプロイすると、Kubernetes Service Account (KSA) が作成されます。
  2. バインディング: roles/iam.workloadIdentityUser バインディングを介して、KSAをGoogle Service Account (GSA) にバインドするアノテーションを付与します。
  3. トークン交換: GKE metadata server がリクエストをインターセプトし、KSAトークンを短期間有効なGoogle Cloudアクセスキーと交換します。
  4. アクセス: podはこのトークンを使用して、BigQueryやVertex AIなどのリソースに対してネイティブ(ADC)に認証を行います。

万が一podが侵害された場合でも、被害の最小化範囲(ブラストレディアス)はその特定のGSAに付与されたIAMロールだけに厳密に制限されます。

図3:GKE Workload Identity認証フロー。

コンピュート:TPUとSpotの最適化

NVIDIA GPUおよびCloud TPUをオーケストレートするために、 GKE Node Pools と統合されています。

TPUオーケストレーション TPU上でのスケジューリングには、特定のトポロジー制約への対応が必要です。TrueFoundryは、podをTPUスライス(v4-8、v5eなど)にスケジュールするために必要なnodeSelectorやtolerationsを管理します。デプロイマニフェストに必要なドライバーとリソース制限を自動挿入し、低レベルなKubernetes設定を抽象化します。

Spot VM管理 バッチ処理や開発ワークロード向けに、コスト削減(オンデマンド比で通常60〜90%の削減)を実現する Spot VMs の管理を行います。

  • プロビジョニング: Spotプロビジョニングを有効にしたNode Poolsをオーケストレートします。
  • 中断処理: 30秒前の中断予告(Preemption Notice)を監視します。検知時には該当ノードをコーデン(cordon)し、スケジューラーをトリガーしてpodをフォールバック用のオンデマンドプールまたは代替のSpotノードへ移動させます。

AI Gateway:統合インターフェース

Gemini Pro などのモデルごとに個別キーを管理することは、運用上のオーバーヘッドを生み出します。TrueFoundryは統合APIインターフェースとして機能するAI Gatewayを提供します。

  • 統合認証: Gatewayに対して一度認証を行えば、ダウンストリームのVertex AIとのWorkload Identity交換はTrueFoundryが処理します。
  • モデル切り替え: 設定パラメーターを変更するだけで、gemini proからセルフホストのllama-3-70bへと切り替え可能です。コードの書き換えは不要です。
  • コスト帰属: プロジェクトごとにトークン使用量をログ記録するため、共有しているVertex AIのコストを社内のコストセンターへと正しく紐付けることができます。

運用比較

タスク ネイティブGCPの実装 TrueFoundryオーバーレイ
TPUワークロードのデプロイ 手動でのNode Pool設定。複雑なtaints、tolerations、リソース制限をYAMLに記述。 TPUタイプ(例:v5e)を選択。Controllerがノード選択とスケジューリング制約を自動化。
Spot VM管理 Spotプールのプロビジョニング。30秒の中断シグナルに対するカスタムシャットダウンハンドラーの作成。 Spot設定をトグル切り替え。Controllerが割り込み、ノードドレイン、フォールバックロジックを処理。
Vertex AIへのアクセス Service AccountごとにIAM権限を付与。トークン/コスト追跡用のカスタムログ記録を構築。 AI Gateway経由でルーティング。統合ログ記録、コスト帰属、レート制限を標準で利用可能。
シークレット管理 CSI Driver経由でシークレットをマウント。アプリごとにSecretProviderClassマニフェストを構成。 Secret ManagerのリソースIDを参照し、環境変数へ直接注入できるUI統合。

まとめ

この統合により、チームは生のKubernetes管理に伴う運用の摩擦に悩まされることなく、GCPのハードウェア優位性(特にTPUと高スループットネットワーク)を最大限に活用できるようになります。TrueFoundryはインフラストラクチャのフォースマルチプライヤー(効果増幅装置)として機能します。セキュリティとデータレジデンシーに対する完全な統制権はお客様が保持したまま、GKEオーケストレーションの複雑さを抽象化します。このバランスにより、GenAIワークロードを即座に運用化し、インフラを制約から競争上のスピードという強みへと変換できます。

‍

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

No items found.
Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

LangChain vs LangGraph:どちらが最適か?

比較
A detailed guide on Claude Fable 5
November 16, 2026
|
5 min read

Claude Fable 5: API、ベンチマーク、料金、使い方

エンジニアリングとプロダクト
openrouter vs litellm
November 16, 2026
|
5 min read

LiteLLMとOpenRouter:あなたに最適なのはどちらか?

比較
November 16, 2026
|
5 min read

大規模言語モデルにおけるトランスフォーマーアーキテクチャ

LLM用語
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour