Blank white background with no objects or features visible.

Ask TFY:AIゲートウェイ内のあらゆる事象をデバッグ、分析、実行 詳細はこちら

TrueFoundryはSeldon AIの買収を発表し、エンタープライズAI向けコントロールプレーンを拡張します。プレスリリース全文はこちら→

安全なデプロイメント:VPC、オンプレミス、エアギャップ

エージェントゲートウェイ:本番環境のAIエージェントのための統合制御レイヤー

エンタープライズグレードのエージェントゲートウェイによる、AIエージェントの統合された実行、可観測性、および制御

ありがとうございます!サービス開始時にお知らせいたします。
フォームの送信中にエラーが発生しました。

安全でスケーラブルなワークフローのためのエンタープライズエージェントゲートウェイ

統合エージェント制御

すべてAIエージェントを、一元化されたポリシーと制御を持つ単一の統制された実行レイヤーで運用します。

エージェントの可観測性

モデルとツール全体にわたる完全なトレーサビリティで、エージェントのすべてのアクション、ステップ、決定を追跡。

ポリシー & RBAC適用

エージェントのデプロイ、実行、変更を管理するため、ロールベースのアクセス制御とポリシーを適用。

エージェントのタスク実行

リトライ、タイムアウト、制御された実行パスにより、多段階のエージェントワークフローを確実に実行。

スケーラブル & 信頼性

負荷がかかっても予測可能な動作を維持しつつ、エージェントのワークロードを自動的にスケーリング。

フレームワークに依存しない

あらゆるエージェントフレームワークやカスタム実装に対応し、本番環境での利用に最適化。

Purple gradient square with white background, shiny surface, and rounded corners in rhombus shape.

一元化されたエージェントレジストリ

単一のエンタープライズグレードのエージェントゲートウェイで、AIエージェントを実行・管理。
  • ロジックをアプリケーション全体に埋め込むのではなく、単一のエージェントゲートウェイを通じてすべてのエージェントワークフローを実行。
  • LangChain、CrewAI、および完全にカスタムなエージェント実装を含む、フレームワークに依存しないエージェントをサポート。
  • 一貫したルーティング、ポリシー、実行ルールにより、エージェントによるLLMやツールの呼び出し方法を標準化。
  • ゲートウェイ層で、エージェントの認証、ID、サービスアカウント管理を一元化。
AIエージェントレジストリ向けエージェントゲートウェイ

エージェントの可観測性 & トレース

完全なステップレベルの可観測性で、エージェントの動作を把握。
  • すべてのワークフローにおけるエージェントのレイテンシー、エラー率、リトライ、ツール呼び出しを監視。
  • エージェントステップ、モデル呼び出し、ツールインタラクションにわたるエンドツーエンドの実行トレースを取得します。
  • トークン使用量とコストを、特定のエージェント、ワークフロー、チーム、または環境に紐付けます。
  • 詳細な実行ログを調査し、障害やパフォーマンスのボトルネックを迅速に診断します。
Purple gradient square with white background, shiny surface, and rounded corners in rhombus shape.
AIエージェントの可観測性とトレーシング用エージェントゲートウェイ

エージェントクォータ、予算、アクセス制御

自律型エージェントの予算を保護し、ガバナンスを徹底し、リスクを軽減します。
  • エージェント、ワークフロー、または環境ごとに、トークンベースまたはコストベースのクォータを適用します。
  • エージェントのデプロイ、実行、変更ができるユーザーを制限するために、ロールベースアクセス制御(RBAC)を適用します。
  • 一元化されたIDとポリシー規則を用いて、サービスアカウントと自律型エージェントを管理します。
  • 明確なアクセス境界により、開発、ステージング、本番環境のエージェントワークロードを分離します。
AIエージェントの予算とアクセス制御用エージェントゲートウェイ
Purple gradient square with white background, shiny surface, and rounded corners in rhombus shape.

信頼性の高いエージェント実行、再試行、フォールバック

実際の障害発生時でも、エージェントワークフローが回復力を維持するようにします。
  • 設定可能な再試行ポリシーにより、失敗したエージェントステップを自動的に再試行します。
  • モデル呼び出しやツール実行のためのフォールバックパスを定義します。
  • 無限ループやエージェントの停止を防ぐため、タイムアウトとセーフガードを適用します。
  • モデル障害、ツール障害、またはトラフィック急増時でも一貫した動作を維持します。
AIエージェントのレート制限設定用エージェントゲートウェイ
Purple gradient square with white background, shiny surface, and rounded corners in rhombus shape.

エージェント向けMCP駆動型ツール実行

ネイティブMCP連携により、すべてのエージェントツール呼び出しを保護し、管理します。
  • すべてのエージェントツール呼び出しを登録済みMCPサーバー経由でルーティング
  • Slack、GitHub、データベース、社内サービスなどのエンタープライズツールとエージェントを接続
  • すべてのツール呼び出しにOAuth2、RBAC、メタデータベースのポリシーを適用
  • セキュリティとコンプライアンスのため、エージェントが開始したすべてのツールアクションを監査・記録
AIエージェントのMCPツール実行用Agent Gateway
Purple gradient square with white background, shiny surface, and rounded corners in rhombus shape.

自律型エージェントのためのガードレール

エージェントワークフローの安全性、コンプライアンス、および動作制御を徹底。
  • 各エージェントがアクセス可能なツールと機能を制御
  • PII(個人情報)フィルタリングや制限付きアクションなどの安全ポリシーを強制
  • 組織のコンプライアンス要件に合わせたカスタムガードレールを適用
  • エージェントの意思決定とアクションの完全な監査証跡を保持
Purple gradient square with white background, shiny surface, and rounded corners in rhombus shape.
AIエージェントのガードレールを実現するAgent Gateway
Purple gradient square with white background, shiny surface, and rounded corners in rhombus shape.

大規模な実運用AIのためのAgent Gateway

99.99%
稼働率
一元化されたフェイルオーバー、ルーティング、ガードレールにより、モデルプロバイダーに障害が発生してもAIアプリの稼働を維持します。
100億以上
月間処理リクエスト数
本番環境のAIに向けた、スケーラブルで高スループットな推論環境。
30%
平均コスト最適化
スマートルーティング、バッチ処理、予算管理によりトークンの無駄を削減します。 

エンタープライズ対応エージェントゲートウェイ

データとモデルはお客様のクラウド/オンプレミスインフラ内で安全に管理されます

HIPAA, GDPR, and AICPA SOC compliance badges for data security and privacy regulations standards.
  • Green circle with a white checkmark symbol inside, indicating confirmation or approval status icon.

    コンプライアンスとセキュリティ

    SOC 2、HIPAA、GDPR基準に準拠し強固なデータ保護を実現
  • Green circle with a white checkmark symbol inside, indicating confirmation or approval status icon.

    ガバナンスとアクセス制御

    SSO + ロールベースアクセス制御(RBAC)および監査ログ
  • Green circle with a white checkmark symbol inside, indicating confirmation or approval status icon.

    エンタープライズサポートと信頼性

    SLAに基づいた応答保証による24時間365日のサポート
あらゆる環境にTrueFoundryをデプロイ

VPC、オンプレミス、エアギャップ環境、またはマルチクラウド環境に対応。

データはドメイン外へ一切流出しません。TrueFoundryの稼働環境を問わず、完全な主権と分離、そしてエンタープライズレベルのコンプライアンスを保証します。

TrueFoundryがもたらす確かな成果

企業がTrueFoundryを選ぶ理由

NVIDIA logo with green background and white eye-like design symbolizing technology and graphics processing innovation.
Resmed logo with blue, purple, and pink wavy lines beside company name in black text.
Automation Anywhere logo featuring stylized letter A in orange and yellow hues on white background.
Siemens Healthineers company logo
Innovaccer Company Logo
Games 24 seven logo with stylized cube icon and vibrant orange and blue color scheme.

3倍

自律型LLMエージェントによる価値創出までの時間を短縮

80%

自動エージェント最適化によるGPUクラスター稼働率の向上

Smiling man with short brown hair standing in front of greenery outdoors.

Aaron Erickson

Applied AI Lab 創設者

TrueFoundryは当社のGPUフリートを自律的かつ自己最適化するエンジンへと変貌させ、稼働率を80%向上させるとともに、アイドル状態のコンピューティングコストを数百万ドル削減しました。

5倍

社内AI/MLプラットフォームのプロダクション化までの時間短縮

50%

TrueFoundryへのワークロード移行によるクラウド支出の削減

Smiling Asian Indian business professional man in black suit jacket and white collared shirt portrait.

Pratik Agrawal

データサイエンス&AIイノベーション担当シニアディレクター

TrueFoundryのおかげで、実験から本番環境への移行を記録的な速さで実現できました。1年以上かかると思われていた作業がわずか数ヶ月で完了し、開発チームへの定着も進みました。

80%

モデルのプロダクション投入までの時間短縮

35%

従来のSageMaker環境と比較したクラウドコストの削減

Smiling man with short dark hair and glasses wearing a collared shirt and sweater indoors.

Vibhas Gejji

スタッフMLエンジニア

DevOpsの負荷を軽減し、チーム全体のプロダクションへの展開を簡素化しました。TrueFoundryは、実験段階から堅牢なサービスまで拡張可能なインフラを提供し、MLデリバリーを加速させています。

50%

RAG/エージェントスタックのデプロイを高速化

60%

RAG/エージェントパイプラインのメンテナンス負荷を削減

Smiling man with beard and mustache wearing blue shirt and gray blazer against white background.

Indroneel G.

インテリジェントプロセスリーダー

TrueFoundryを活用することで、パイプライン、ベクトルDB、API、UIを含むフルスタックのRAG環境を、セルフホスト型インフラを完全に制御しながら、従来の2倍の速さで構築できました。

60%

AIデプロイの高速化

約40〜50%

開発環境全体における実質的なコスト削減率

Young man with short dark hair and neutral expression in circular frame.

Nilav Ghosh

AI担当シニアディレクター

TrueFoundryの導入により、統一されたMLOpsインターフェースを通じてデプロイ期間を半分以下に短縮し、インフラのオーバーヘッドを削減。価値提供のスピードを加速させました。

2週間未満

すべての本番モデルの移行にかかった期間(週)

75%

データサイエンス関連の調整時間を削減し、モデルの更新と機能リリースのスピードを加速

Businessman with short dark hair and glasses sitting in office, wearing suit jacket and blue shirt.

Rajat Bansal

CTO

インフラコストを大幅に削減し、データサイエンスチーム間の調整時間を75%短縮できました。TrueFoundryのおかげで、チーム全体のモデルデプロイ速度が飛躍的に向上しました。

よくある質問

エージェントゲートウェイとは何ですか?

エージェントゲートウェイは、現代のエージェントAIのための専門的なコントロールプレーンです。ステートレスなAPI呼び出しのみを管理する従来のゲートウェイとは異なり、エージェントゲートウェイは機械学習のコンテキストを認識します。これは、エージェントのやり取りを統制し、LLMモデル、データソース、外部ツール間の複雑なデータ移動を管理する専用のソフトウェアレイヤーとして機能します。孤立したプロンプトをエージェントワークフローへと変える、極めて重要なAIインフラストラクチャです。

エージェントゲートウェイはどのように機能しますか?

Agent Gatewayは、エージェントシステム専用のインテリジェントなリバースプロキシとして機能します。エージェントがアクションを開始すると、ゲートウェイがリクエストをインターセプトし、ポリシー適用ルールに基づいて検証を行い、適切なバックエンドのMCPサーバーまたはREST APIにルーティングします。Model Context Protocol (MCP) を活用することで、エージェントとツールの通信方法を標準化し、実質的にエージェントメッシュを構築して、すべてのMCPエンドポイントとのやり取りにおける認証、トラフィック管理、ログ記録を管理します。

エージェントゲートウェイとAIゲートウェイの違いは何ですか?

AIゲートウェイがLLM(大規模言語モデル)のプロンプトやトークンを管理するのに対し、エージェントゲートウェイはエージェントAIのデータプレーンとして機能します。単なる推論を超えて、複雑なエージェントのやり取り、ステートフルなセッション、エージェントとツール間のデータ移動を管理します。エージェントシステム専用に設計されたサービスメッシュと考えてください。AIゲートウェイがステートレスなリクエストを処理するのに対し、エージェントゲートウェイは長時間実行されるエージェントワークフローに対してセキュリティとオーケストレーションのレイヤーを提供し、トラフィックパターンの違いに対応します。

Agent Gatewayはどのエージェントフレームワークでも使用できますか?

はい。Agent GatewayプロジェクトはLinux Foundationのプロジェクトであり、オープンソースのガバナンスと互換性が保証されています。これは、あらゆるオープンソースフレームワーク(LangChain、CrewAI、AutoGenなど)と連携するソフトウェアレイヤーとして機能します。この基盤により、特定のベンダーにロックインされることなく、基盤となるフレームワークに関係なく、多様なAIシステムやバックエンドサービス全体でエージェントワークロードをオーケストレーションできます。

Agent Gatewayはどのように可観測性とコスト追跡を処理しますか?

このゲートウェイは、エージェントメッシュに対する深い可視性を提供します。APIレベルだけでなく、インテント(意図)レベルでトラフィック管理を追跡します。Model Context Protocol (MCP) の使用状況、LLMモデルごとのトークン消費量、外部ツールとのやり取りにかかるコストについて、詳細なメトリクスを取得できます。このインテリジェントなルーティングと追跡機能により、データソースの監査やコストの正確な割り当てが可能となり、本番環境における「ブラックボックス化」したエージェントの挙動に関する多くの問題を解決します。

自律型エージェントを制御および監査できますか?

もちろんです。Agent Gatewayは、エージェントレベルでRBAC(ロールベースのアクセス制御)、クォータ、ガードレールを適用します。モデル呼び出しやツール実行を含むすべてのエージェントの動作はログに記録され監査可能であるため、セキュリティとコンプライアンスのニーズに対して完全なトレーサビリティを確保します。

Agent Gatewayは規制の厳しい環境やエンタープライズ環境に適していますか?

はい。Agent Gatewayはエンタープライズでの利用を想定して設計されており、プライベートVPC、オンプレミス環境、エアギャップ環境でのセキュアなデプロイをサポートしています。既存のコンプライアンス管理と統合し、規制産業で求められる一元的なガバナンスを提供します。

TrueFoundry Agent Gatewayの利用を開始するにはどうすればよいですか?

TrueFoundryにサインインし、Agent Gatewayを通じて最初のAIエージェントをデプロイすることで利用を開始できます。高度な要件やエンタープライズ向けの要件があるチームは、デモを予約して、カスタマイズされたデプロイメントおよびガバナンス戦略についてご相談ください。
Grey wavy lines on white background, abstract wave pattern with multiple curved lines intersecting smoothly.

GenAIインフラを、よりシンプルに、高速に、低コストで

30社以上のエンタープライズ企業やフォーチュン500企業に選ばれています

プロダクトツアーを体験する
プロダクトツアーを開始
プロダクトツアー