Blank white background with no objects or features visible.

EMEAの皆様へ。TrueFoundryは、ヨーロッパ、中東、アフリカ全域で事業を拡大しています。詳細はこちら →

OpenCodeの社内導入: TrueFoundry上での安全なTool Usage

By Boyu Wang

Updated: November 3, 2026

Published: July 2, 2026

ChatGPTのCode Interpreter(現在の「Advanced Data Analysis」)を使って感動した経験は誰にでもあるでしょう。乱雑なCSVファイルをアップロードし、「日付を修正して傾向をプロットして」と依頼すると、リアルタイムでPythonコードが記述・実行される様子を驚かされながら見守ることになります。

これは生産性を飛躍的に向上させる強力な武器です。しかし同時に、機密データを扱っている場合には巨大なセキュリティホールとなり得ます。

CSVをアップロードした瞬間、そのデータは自社の境界線の外へと出ていきます。私たちのチームの目標は、データ流出のリスクを負うことなく、LLM agentにコードの記述と実行の能力を与えるという、この「OpenCode」機能を再現することでした。私たちが求めていたのは「ブラックボックス」なAPIではなく、データに近接した場所で計算が行われるPrivate Code Interpreterでした。

ここでは、TrueFoundryのインフラコンポーネントを使用して、安全なTool Usageおよびコード実行を実装した方法を紹介します。

Private Code Interpreterのアーキテクチャ

「OpenCode」は、単にPythonを書けるモデルを用意するだけで完結するものではありません。以下の3つの異なるコンポーネントが連携して動作する必要があります。

  1. Brain (LLM): 推論およびFunction Callingが可能なモデル(例: Llama 3、DeepSeek-Coder、またはGateway経由のGPT-4o)。
  2. Hands (Sandbox): 実際にコードが実行される、隔離されたエフェメラルな環境。
  3. Glue (Gateway): モデルの意図を解析し、実行リクエストをルーティングするミドルウェア。

多くの人が「Hands」の部分で行き詰まります。本番環境のクラスタ上でLLMに自由気ままにos.system('rm -rf /')を実行させるわけにはいきません。サンドボックスが必要なのです。

TrueFoundryは、サンドボックスとして機能するエフェメラルな実行環境(ServicesまたはJobs)のデプロイを可能にすることで、この問題を解決します。LLM Gatewayがツール定義を処理し、実際の実行はVPC内のロックダウンされたコンテナ内で行われます。

以下は、ユーザーのリクエストが安全なコード実行へと変換されるワークフローです。

図1: OpenCodeの実行ループのワークフロー

サンドボックスの問題点: 「Hands」の管理

最初にこれを構築しようとした際、私たちは実行環境の複雑さを軽視していました。標準的なSaaSのCode Interpreter APIを使用する場合、データを相手側の企業に送信することになります。ローカルで実行する場合は、ホスト環境が侵害されるリスクが生じます。

私たちはTrueFoundryのServicesを活用して、カスタムの「Code Execution Agent」をホストしています。これは実質的に、以下の機能を備えたDockerコンテナにラップされたPython FastAPIサービスです。

  • 制限されたネットワークアクセス: 特定の内部PyPIミラー以外へのインターネットアクセスを遮断。
  • リソース制限: while(true)ループによるノードの過熱を防ぐため、RAMとCPUに厳格な上限を設定(TrueFoundryのリソース切り替えで設定)。
  • エフェメラルストレージ: ファイルシステムはリクエストごとにワイプ(消去)。

TrueFoundryが基盤となるKubernetesマニフェストを管理するため、デプロイUIやTerraformから直接これらのセキュリティ制約(SecurityContext、NetworkPolicies)を注入でき、サンドボックスが確実に機能することを保証できます。

比較: パブリック vs プライベートのTool Usage

利便性とコントロールのトレードオフは常に存在します。TrueFoundryを活用して「OpenCode」パターンをオーケストレーションすることで、そのバランスをシフトさせることができます。データリスクを回避しながら、マネージドデプロイメントの利便性を享受できます。

Code InterpreterとPrivate Sandboxの比較
機能 パブリックSaaS Code Interpreter TrueFoundry Private Sandbox
データプライバシー 低。データはベンダーのクラウド環境にアップロードされます。 高。データは自社のVPC / S3バケット内に留まり、コードがデータの元へ移動します。
ライブラリ管理 制限あり。標準で事前インストールされたパッケージのみ (例: pandas, numpy)。 完全な制御。Dockerイメージを自由に定義可能。 ニッチなバイオインフォマティクスライブラリが必要な場合も、追加するだけです。
ネットワークアクセス ブロックされているか、またはパブリックインターネットアクセス(リスクあり)。 設定可能。RDSやSnowflakeなどの内部システムへのプライベートネットワーキング。
コスト トークンごとの従量課金+プレミアムサブスクリプション料金。 インフラベースの価格設定。 実行中のみ、基盤となるPodまたはGPUの料金が発生します。

表1: GatewayとSandboxの比較例

Tool Usageと「開眼(Ah-ha)」の瞬間

本当の価値が発揮されるのは、Tool Usageを自社の内部APIと組み合わせた時です。

私たちはTrueFoundry LLM Gatewayを設定し、「Python Interpreter」ツールだけでなく、内部データレイク用のツール(例: get_user_churn_metrics(user_id))も公開できるようにしました。

LLMはGateway経由でルーティングされ、Gatewayはプライベートサービスに接続されているため、モデルは以下の処理を行えるようになります。

  1. (ツール経由で)自社の内部SQLデータベースをクエリする。
  2. そのデータをPython Sandboxに引き込む。
  3. 「OpenCode」パターンを使用してデータを分析する。
  4. ユーザーに回答を返却する。

これらすべてのプロセスが、顧客データをプライベートサブネットから一バイトも外に出すことなく実行されます。

プロダクションレベルへの引き上げ

「OpenCode」の実装は、単なるハッカソンのアイデアにとどまらず、現代のAI agentにとって必須の要件となっています。しかし、これをLangChainなどで手軽に組み合わせるだけで成功を期待することはできません。

私たちはCode Interpreterをミッションクリティカルなインフラとして扱っています。TrueFoundryの可観測性(observability)スタックを使用して監視し、LLMトークンだけでなく、サンドボックス内のCPUスパイクや実行レイテンシーもトラッキングしています。万が一ユーザーが50GBのRAMを割り当てようとするスクリプトを実行しても、TrueFoundryはクラスタに影響が出る前にPodを破棄し、ユーザーには適切なエラーメッセージが返されます。

これが単なるデモと、真のプラットフォームとの違いです。

‍

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

No items found.
Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

LangChain vs LangGraph:どちらが最適か?

比較
A detailed guide on Claude Fable 5
November 16, 2026
|
5 min read

Claude Fable 5: API、ベンチマーク、料金、使い方

エンジニアリングとプロダクト
openrouter vs litellm
November 16, 2026
|
5 min read

LiteLLMとOpenRouter:あなたに最適なのはどちらか?

比較
November 16, 2026
|
5 min read

大規模言語モデルにおけるトランスフォーマーアーキテクチャ

LLM用語
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour