PangeaとTrueFoundryのAIゲートウェイ連携

現代のLLMチームは迅速に開発を進めますが、実用的で確かなAIセキュリティも必要としています。当社は多くのガードレールプロバイダーと連携してきましたが、エンタープライズクライアント向けに新たな連携を提供します。 Pangea TrueFoundry AIゲートウェイとの連携により、チームはスタックを再構築することなく、プロンプトインジェクションの検出、機密データの編集、コンテンツポリシーの適用が可能になります。

Pangeaとは（そして、なぜAIゲートウェイと組み合わせるのか？）

Pangea AIワークロード向けに調整された、プログラム可能なセキュリティサービススイートを提供します。特に、危険なコンテンツを検出してポリシーを適用するAI Guardと、機密データを自動的に削除するRedactが挙げられます。Pangeaコンソールで定義し、アプリやプラットフォームから呼び出す再利用可能なガード設定である「レシピ」という概念を導入しています。PangeaをAIゲートウェイに導入することで、アプリケーションのコードパスに手を加えることなく、プロバイダー、モデル、ツール、エージェントを横断するすべてのリクエストとレスポンスにこれらの保護策を適用できます。

AIゲートウェイにとってセキュリティが重要な理由

• 一元化された防御。AIゲートウェイで組織全体のガードレールを適用します。
• データは自社内に留まる。トラフィックは管理された環境を通過し、何をどこにログ記録するかは、お客様が決定します。
• 多層防御。インジェクションを検出し、URLを無害化し、データ流出の試みをブロックし、モデルやユーザーに到達する前にPIIを編集します。
• 運用の簡素化。認証情報を設定する場所は1か所、管理するポリシーインターフェースも1つ。これにより、ずれが少なく、より一貫したAIセキュリティを実現します。  

Key Metrics for Evaluating Gateway

Criteria	What should you evaluate ?	Priority	TrueFoundry
Latency	Adds <10ms p95 overhead for time-to-first-token?	Must Have	✅ Supported
Data Residency	Keeps logs within your region (EU/US)?	Depends on use case	✅ Supported
Latency-Based Routing	Automatically reroutes based on real-time latency/failures?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported

Evaluating an AI Gateway?

A practical guide used by platform & infra teams

連携の仕組み

大まかに言うと、次のとおりです。

1. PangeaでAI Guardレシピを作成します（例：プロンプトインジェクションのブロック、URLのサニタイズ、パターンの編集など）。  
2. TrueFoundryで、ルートまたは組織ポリシーにPangeaガードを追加します。Pangeaドメイン、プロジェクトドメイン、レシピIDを指定し、保存されているAPIキーを参照します。  
3. AIゲートウェイは、プロンプトや補完のためにPangeaをインラインで呼び出し、モデルまたはクライアントに転送する前に、決定（許可、ブロック、編集、変換）を適用します。  

サポートされるガードの種類

以下のいずれかのフェーズにPangeaチェックをアタッチできます。

• プロンプト（モデル処理前）
• コンプリーション（モデル処理後）
• プロンプトとコンプリーション（双方向）

これらは、Pangeaをプロバイダーとして、ゲートウェイ内で「ガード」として設定されます。  

Pangea連携の追加

を Pangea連携追加するには、まず 名前 をガードレールグループに入力し、次にこのグループの管理または使用にアクセスできる 共同作業者 を追加します。その後、 Pangea設定 に 名前 を付け、 ドメイン を指定します。これは、Pangeaプロジェクトが設定されているクラウドプロバイダーとリージョンのドメインです。例えば、エンドポイントが https://<service_name>.aws.us-west-2.pangea.cloud/v1/text/guardの場合、入力すべきドメインは aws.us-west-2.pangea.cloud。また、オプションとして レシピ キーを指定することもできます。これは、Pangeaユーザーコンソールで定義された事前設定を指し、悪意のあるURLの無害化など、テキストに適用すべきルールを定義します。デフォルトのPangeaアカウント設定を上書きするカスタム設定を適用したい場合は、 オーバーライドを有効にできます。次に、適用したい保護の種類に基づいて、ドロップダウンから ガードタイプ を選択します。

最後に、 Pangea認証データの下で、Pangeaサービスへのリクエストを認証するために使用される APIキー を指定します。このキーは連携機能が動作するために必須であり、Pangeaコンソールでプロジェクトダッシュボードに移動し、 トークン または APIキー セクションを開くことで取得できます。このキーはPangeaセキュリティサービスへのアクセスを提供するものであるため、安全に保管してください。

‍

適用状況の例

• ブロック：リクエスト/レスポンスは、明確な理由と可観測性のためのコードパスとともに停止されます。
• Redact（墨消し）：機密性の高い箇所は、LLMやクライアントに転送される前に削除されます（Redact機能を使用）。  
• Transform（変換）：安全でない構造（例：URL）は無害化され、AIゲートウェイを介して安全に転送されます。  

すべての決定はゲートウェイログで確認できます。Pangeaは、調査やレビューのためにプロジェクト内で監査証跡も保持します。  

Pangeaをゲートウェイに組み込むことで、運用上の最大のメリットは一貫性です。シンプルなチャット補完、エージェントツール呼び出し、検索拡張パイプラインのいずれであっても、トラフィックが流れる場所であればどこでも同じチェックが適用されるため、各チームはすべてのマイクロサービスやエージェントワークフローでセキュリティを「有効にする」ことを覚えておく必要がありません。これにより、時間の経過とともにポリシーのずれが減少し、複数のチーム間でコード変更を調整することなく、新しい保護機能を展開したり（または既存のものを強化したり）することがはるかに容易になります。

問題が発生した場合の運用（Day-2オペレーション）も改善されます。ユーザーが安全でない出力や疑わしい動作を報告した場合、プラットフォームチームは、ゲートウェイのログと監査シグナルから、どのガードが作動し、どのようなアクションが取られ、どのルートとモデルが関与したかを正確に追跡できます。これにより調査が迅速化され、セキュリティチームとAIチームが、インシデントのレビュー、レシピの調整、本番環境に展開する前の変更の検証のための、共有可能で反復可能なワークフローを構築するのに役立ちます。

時間の経過とともに、チームは通常、「基本的なブロックと墨消し」から、安全性とユーザーエクスペリエンスのバランスを取る、より繊細なポリシーへと進化します。例えば、明確なプロンプトインジェクションの試みをブロックし、特定のPIIタイプを墨消しし、URLやコードスニペットのような危険なコンテンツを変換しつつ、リクエストの残りの部分は続行させることを選択できます。Pangeaのレシピとゲートウェイレベルの強制適用により、これらの変更は書き換えではなく設定の更新となり、チームはプロンプト、モデル、製品機能の反復と同じペースでセキュリティ制御を反復できるようになります。

よくある質問

これによりレイテンシは増加しますか？
‍呼び出しはAIゲートウェイで行われます。キャッシュと簡潔なレシピを使用することで、オーバーヘッドは通常、モデルのレイテンシと比較して小さいです。

モデルの選択は制限されますか？
‍いいえ。ポリシーはAIゲートウェイの境界で強制されるため、プロバイダーやモデルを問わず適用されます。

他のガードレールと組み合わせることはできますか？
‍はい、Pangeaを追加のゲートウェイガードと組み合わせて、多層的なAIセキュリティを実現できます。  

利用を開始する

• Pangeaの設定については、TrueFoundryのステップバイステップドキュメントに従ってください。リンク こちら
• PangeaのAIガードの概念（レシピ、アクション）を確認し、適切なポリシーを設計してください。  

LLMワークロードを拡張する際、この組み合わせはクリーンで一元化された制御ポイントを提供します。すべての呼び出しに付随するAIセキュリティと、アプリケーションを高速、一貫性、コンプライアンスに準拠させるAIゲートウェイです。