Blank white background with no objects or features visible.

EMEAの皆様へ。TrueFoundryは、ヨーロッパ、中東、アフリカ全域で事業を拡大しています。詳細はこちら →

TrueFoundryのビジョン

By TrueFoundry

Updated: November 3, 2026

Published: July 2, 2026

全体ビジョン:すべてのベストプラクティスに従ったサービスの作成と管理を容易にし、システムのモニタリング、データ、コスト、インパクトを含むインフラの全容を明確に把握できるようにする、Machine Learningに初期焦点を当てたデベロッパープラットフォーム!

TrueFoundryのビジョン(5〜10年)

TrueFoundryは、MicroServicesの実行と管理における開発者体験をシームレスにすることを中核目標としています。適切なレベルの抽象化により、開発者は超高速なイテレーション速度でビジネスロジックの記述のみに集中できるようになります。

コードを書いた後、ジニー(魔法の魔人)を呼び出して、サービスの種類(Serverless、CronJob、Database、APIサービス)やCPU、メモリなどのリソース要件といった要望を伝えると、ジニーがGitOpsやInfrastructure as Code (IAC) などのベストプラクティスに沿ってサービスを作成し、作成されたすべてのメトリクスを表示するダッシュボードを提示してくれる——そんなフローを想像してみてください。

私たちはservicefoundryによって、以下のことを実現したいと考えています。

IACを使用した中央集中型インフラのプロビジョニング

ServiceFoundryは、最も一般的に使用されるオープンソースのインフラコンポーネントをユーザーのクラウド上にプロビジョニングおよびホストします。例として以下のようなものが挙げられます。

  1. セキュリティのベストプラクティスが設定されたKubernetesクラスタの起動。
  2. Kafka、Spark、Redis、Prometheus、Grafanaなどの中央集中型インフラコンポーネントのインストール(またはマネージドサービスの使用)。
  3. AWS Elastic Searchなど、一部にクラウドマネージドサービスを使用可能。
  4. データベース、ストレージレイヤーの起動(現時点ではマネージドバージョンを使用)。
  5. Airflow、Argoなどのパイプラインオーケストレーションシステム。
  6. CI / CD (Github Actions、Gitlab、AWS Code pipelines)
  7. ログ統合(ELK、EFK)
  8. モニタリング(標準メトリクスおよびカスタムメトリクス)
  9. アラート設定
サービスの作成
  1. 設定可能なテンプレートに基づいてサービスを構築およびデプロイします。ServiceFoundryは、infrastructure-as-codeを通じて以下を自動化する意見主導型(opinionated)の原則セットとなります:
  • 依存関係の管理とパッケージング(Docker、Zip)
  • テスト
  • 設定管理(静的および動的に変化する設定)
  • インフラのプロビジョニング(事前にプロビジョニングされた中央集中型インフラの上で構築)
  • Autoscalingの設定
  • CI/CD
  • ログ統合
  • 標準メトリクスを備えたダッシュボード生成(ユーザーはカスタムメトリクスを追加可能)
  • アラート設定

上記と同様に、ML ModelsやDatabasesに対しても同じことを実現したいと考えています。

ServiceFoundryは、標準的なタイプのサービスのデプロイとモニタリングの合理化を目指します:

  1. LoadBalanced API Service(さまざまなパラメータに基づくautoscaling付き)
  2. Job Service(Cron jobs、イベントによってトリガーされるjobs)
  3. Serverless
  4. Stateful Services
  5. Static Website
サービスカタログとグラフ

ServiceFoundryを使用して作成されたすべてのサービスは、完全なメタデータとともに一箇所で確認できます。このカタログには、dev、staging、prodといった各アプリケーションのすべての環境も表示されます。これにより、開発者やビジネスリーダーが組織内で実行されているサービスを確認できるデベロッパープラットフォームポータルが実現します。各サービスに関連付けられる主なメタデータの一部は以下の通りです:

  1. Githubリポジトリへのリンク
  2. 設定(Configuration)
  3. モニタリングリンク
  4. チームおよびオーナー
  5. 異なるアクセス制御を持つメンバーを追加する機能
  6. コスト

TrueFoundry MLOps(ML First Platform)

TrueFoundryの初期の焦点は、モデル構築後のパイプラインに焦点を当て、データサイエンティストがモデルのデプロイ、監視、再学習を極めて容易に行えるシームレスなMLOpsプラットフォームを提供することです。

Machine Learningパイプラインは、以下の中央集中型インフラで構成されています:

含まれるさまざまなステップの簡単な説明は以下の通りです:

  1. Data PipelineおよびFeature Store:これは本質的にビッグデータの問題であり、モデルで使用される特徴量をデータレイクから計算し、解離を生じさせることなく、学習時と本番環境の両方で必要な時間制約内に利用可能にする必要があります。通常、Airflow、Argo、Kubeflow pipelinesなどのワークフローオーケストレーションエンジンが使用されます。
  2. Model Training: Model trainingは本質的に、複数のマシンにわたって実行できる計算負荷の高い分散ジョブです。また、チェックポイントの保存と復元による組み込みのレジリエンス(回復力)も提供する必要があります。
  3. ModelServing: これは基本的にモデルの予測要求を受け取るマイクロサービスであり、GPU、高い計算機能、メモリ要件など、多様な要件を持つ可能性があります。各モデルは通常単一のマイクロサービスとしてホストされるため、チームが数十のモデルにスケールすると、数十のマイクロサービスを管理する問題になり、それ自体が大きな課題となります。
  4. ModelMonitoring: これには、システムメトリクスのモニタリングと、モデルのパフォーマンスおよび劣化に関連するMachine Learning固有のモニタリングの両方が含まれます。これには、ログデータを保存し、集計を実行し、最終的にメトリクスを計算するシステムも必要です。
  5. Model Management:モデルおよびそのさまざまなバージョンや実験に関連するすべてのデータを追跡します。これは、後で問題をデバッグしてロールバックするのに非常に便利です。

このように多くの可動部分と異なる技術が関わっているため、通常、DataEngineer、DataScientist、ML Engineer、DevOps、Product Managerなど、複数の人物がMLプロジェクトに関与します。プロジェクトを成功させるには、これらすべての異なるペルソナ間の調整が必要となり、多くの遅延が発生し、データサイエンティストのスピードが阻害されます。

企業におけるMachine Learningパイプラインの一般的なワークフローは以下のようになります:

MLプラットフォームの背後にある主要な目標

私たちは、MLパイプラインの中で自動化可能な部分を自動化し、データサイエンティストが他チームへの依存を最小限に抑えながら、本番環境でモデルをテストし、迅速にイテレーションできるようにしたいと考えています。私たちのモチベーションは、トップIT企業のPlatformチームが作成した、全チームがより迅速に移動し、自力でデプロイやイテレーションを行えるようにする製品から得ています。

現在、データに関連する問題は取り扱っていません。そのセクションは後で導入されます。

主要なML Platformは、(中央インフラとは別に)以下のサービスで構成されています:

  1. Training(異なるトリガーを持つスケジューリングされたJob)
  2. Model Service(LoadBalanced API Service)
  3. Storage(アーティファクト、データセット、モデル推論データ)
  4. ML Monitoring Service(データからメトリクスを計算するサービス)
  5. Feature Engineering Service

これらのサービスを簡単にデプロイし、異なるステージ間でバージョニングを維持し、それぞれのモニタリングを生成できれば、ML Opsの問題ははるかにシンプルになります。

このブログは最初、Mediumの https://abhishekch09.medium.com/d8e159743a4b で公開されました。

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

July 20, 2023
|
5 min read

LLMOps CoE: MLOpsランドスケープにおける次のフロンティア

August 27, 2025
|
5 min read

AI Gateway:停止のパニックからエンタープライズのバックボーンへ

November 17, 2026
|
5 min read

Claude Codeの制限について解説(2026年版)

No items found.
Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

LangChain vs LangGraph:どちらが最適か?

比較
A detailed guide on Claude Fable 5
November 17, 2026
|
5 min read

Claude Fable 5: API、ベンチマーク、料金、使い方

エンジニアリングとプロダクト
openrouter vs litellm
November 16, 2026
|
5 min read

LiteLLMとOpenRouter:あなたに最適なのはどちらか?

比較
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour