LLMトラフィックのデータ損失防止(DLP):適切な配置場所とは
.png)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support

TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.


Recent Blogs
Frequently asked questions
LLMトラフィックにおけるデータ損失防止(DLP)とは何ですか?
プロンプト、ツール呼び出し、モデルのレスポンスに含まれる機密データを、境界の外に出る前に検査して制御することです。従来のDLPと異なるのは、ファイルも未承認の宛先も存在しない点です。ペイロードは、利用料を支払っているAPIへのTLSセッション内のJSONです。制御はリクエストのスキーマを理解し、認証済みの出口のチョークポイントに配置する必要があります。
従来型のネットワークDLPがLLMトラフィックを見逃すのはなぜですか?
3つの理由が重なります。宛先は意図的に許可リストに入っているため、宛先ルールが発動しません。コンテンツはファイルやフォームフィールドではなく、入れ子になった会話の配列の中にあり、ドキュメント指向のエンジンはこれをうまく解析できません。そして、TLSインスペクションがなければ解析する対象がそもそもありません。インスペクションを行うプロキシであっても、どの呼び出し元がリクエストを送ったのかは判別できません。
AIゲートウェイは、PIIを含むリクエストをブロックできますか?
検出器によって異なります。TrueFoundryに組み込まれているPII / PHI検出は変換(Mutate)専用で、常にマスクを行い、リクエストを拒否することはありません。確実にブロックするには、AWS Bedrock Guardrails、Azure PII、CrowdStrikeなど、検証(Validate)に対応した連携が必要です。機能一覧に「PII検出」と書かれていても、結果がマスクなのか400エラーなのかはわかりません。
TrueFoundryを自社のVPCやオンプレミスにデプロイできますか?
はい。TrueFoundryはお客様のVPC、オンプレミス、エアギャップ環境、ハイブリッド環境で動作するため、多数のプロバイダーにまたがってルーティングする場合でも、プロンプトとレスポンスがお客様のドメインの外に出ることはありません。
TrueFoundryは、MCPとAIエージェント全般に対応していますか?
はい。MCP Gateway、Agent Gateway、そしてツール単位のアクセス制御を備えたMCP & Agents Registryが含まれています。LangGraph、CrewAI、AutoGen、または独自のフレームワークで構築されたエージェントを、すべて一元的に統制できます。
既存のオブザーバビリティスタックと統合できますか?
はい。ゲートウェイはOpenTelemetryに準拠しており、Grafana、Datadog、Prometheus、またはお好みのスタックに接続できます。プロンプトからツール、モデルの実行まで、すべてのリクエストを追跡するため、既存のシステムを大幅に変更することなく、統合されたロギングを実現できます。











.png)
.png)
.png)

.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)

.png)





