TrueFoundry AIゲートウェイとのPalo Alto Prisma統合

今日のAI開発は刺激的ですが、リスクも伴います。モデルは危険な動作をするように騙されたり、機密データを漏洩させたり、ユーザーに害を及ぼす出力を生成したりする可能性があります。そこで、Palo Alto Prisma AIRSがランタイムでAIを保護するために介入し、TrueFoundry Gatewayがこの保護を簡単に設定、適用、管理できるようにします。

これら2つが連携することで、大規模なエンジニアリング作業なしに、すべてのAIリクエストに対してエンタープライズグレードのセキュリティが実現します。セキュリティを後付けするのではなく、スイッチを切り替えるような感覚です。

Palo Alto Prisma AIRSが提供するもの

Palo Alto Prisma AIRS （AIランタイムセキュリティ）は、AIアプリケーションにおけるリアルタイムの脅威検出と防止のために構築されています。アプリケーションとAIモデルの間にインラインで配置され、危険なプロンプトや有害な出力が損害を引き起こす前に検出できます。

Prisma AIRSが提供する強力な機能の一部をご紹介します。

1. プロンプトインジェクションを即座に検知 – 攻撃者がAIを騙して隠された指示を明らかにさせたり、安全制御を迂回させたりするのを防ぎます。
2. データ漏洩を未然に防ぐ – 組み込みのデータ損失防止機能が、機密情報の偶発的な漏洩を検知しブロックします。
3. 危険な出力をブロック – 悪意のあるコードスニペットから不適切なリンクまで、Prisma AIRSは、不適切なコンテンツがユーザーに送信されるのを阻止します。
4. プロファイルで検出を微調整 – 異なるアプリケーション、モデル、または環境に合わせて感度とカテゴリを調整します。
5. Strata Cloud Managerでの一元管理 – すべてのスキャンログ、判定、アラートを1か所で確認できます。

例えば、Prisma AIRSが危険なものを検知した場合、action: block（ブロック）やmalicious_code（悪意のあるコード）のようなカテゴリを含む判定を返し、そのリクエストは即座に停止されます。

Key Metrics for Evaluating Gateway

Criteria	What should you evaluate ?	Priority	TrueFoundry
Latency	Adds <10ms p95 overhead for time-to-first-token?	Must Have	✅ Supported
Data Residency	Keeps logs within your region (EU/US)?	Depends on use case	✅ Supported
Latency-Based Routing	Automatically reroutes based on real-time latency/failures?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported

Evaluating an AI Gateway?

A practical guide used by platform & infra teams

Palo Alto Prisma AIRS連携の追加

TrueFoundryのセットアップにPalo Alto Prisma AIRSを追加するには、以下の手順に従ってください。

ガードレールグループフォームへの入力

• 名前：ガードレールグループの名前を入力してください。
• 共同作業者: このグループにアクセスできる共同編集者を追加します。
• Palo Alto Prisma AIRS 設定:
  • 名前: Palo Alto Prisma AIRS 設定の名前を入力してください。
  • プロファイル名: Palo Alto Prisma AIRS プロファイルの一意の名前です。Palo Alto Prisma AIRS ポータルで新しいプロファイルを作成し、そこから名前を取得できます。
• Palo Alto Prisma AIRS 認証データ:
  • APIキー: Palo Alto Prisma AIRS のAPIキーです。
    このキーは、Palo Alto Prisma AIRS へのリクエストを認証するために必要です。Palo Alto Prisma AIRS ポータルで、Palo Alto Prisma AIRS リソースに移動し、リソースメニューから「Keys and Endpoint」を選択することで取得できます。このキーはPalo Alto Prisma AIRS リソースへのアクセスを許可するため、安全に保管してください。

レスポンス構造

Palo Alto Prisma AIRS API は、以下の構造を持つレスポンスを返します。

レスポンス例：インジェクション検出

これは、Palo Alto Prisma AIRS からのレスポンス例で、インジェクションが検出された場合です。これはブロックされ、400エラーが返されます。

{
    "report_id": "R82f1e879-0000-49af-9345-da907431c08f",
    "scan_id": "82f1e879-0000-49af-9345-da907431c08f",
    "tr_id": 1234,
    "profile_id": "12345678-0000-1234-1234-123456789012",
    "profile_name": "ai-dummy-profile",
    "category": "malicious",
    "action": "block",
    "prompt_detected": {
      "url_cats": true,
      "dlp": true,
      "injection": true,
      "toxic_content": true,
      "malicious_code": true,
      "agent": true,
      "topic_violation": true
    },
    "response_detected": {
      "url_cats": true,
      "dlp": true,
      "db_security": true,
      "toxic_content": true,
      "malicious_code": true,
      "agent": true,
      "ungrounded": true,
      "topic_violation": true
    },
    "prompt_detection_details": {
      "topic_guardrails_details": {
        "allowed_topics": [
          "string"
        ],
        "blocked_topics": [
          "string"
        ]
      }
    },
    "response_detection_details": {
      "topic_guardrails_details": {
        "allowed_topics": [
          "string"
        ],
        "blocked_topics": [
          "string"
        ]
      }
    },
    "created_at": "2024-07-29T15:51:28.071Z",
    "completed_at": "2024-07-29T15:51:28.071Z"
  }

検証ロジック

TrueFoundry は Palo Alto Prisma AIRS のレスポンスを使用して、コンテンツの安全性とコンプライアンスを判断します。

• もし response.action が ブロックの場合、リクエストはブロックされ、400エラーが返されます。
• もし response.action が 許可の場合、リクエストは続行を許可されます。

TrueFoundry Gatewayで統合が簡単になる理由

Prisma AIRSをGatewayに組み込むことで、以下が得られます。

• すべてのモデルとプロバイダーに対応する単一の統合 – SDKの切り替えや散在するコード変更は不要です。
• ターゲットを絞ったポリシー – 特定のユーザー、モデル、または環境にのみガードレールを適用します。
• 一貫性のある適用 – GatewayはPrisma AIRSの判定に従い、常に同じ方法で動作します。
• シークレットの組み込みセキュリティ – Prisma APIキーをTrueFoundry Secretsとして安全に保存し、コードに公開することはありません。

TrueFoundry + Prisma AIRSで今すぐ使える機能

この統合が稼働すると、次のことが可能になります。

• Gatewayのガードレール設定から直接、PrismaのAPIキーとプロファイルスキャンを利用できます。
• AIモデルに到達する前に入力をスキャンし、安全でないものを即座にブロックします。
• モデルの出力を有害なコンテンツがないかスキャンし、ユーザーが目にする前に停止させます。
• 異なるチームやモデルに対して異なる安全ルールを設定し、すべてを1つのダッシュボードで管理できます。
• Strata Cloud ManagerのPrisma脅威ログと、TrueFoundryによるすべてのAIリクエストの追跡機能を連携させましょう。

フローの仕組み

リクエストの処理フローを簡潔に説明します。

1. アプリがTrueFoundry Gateway経由でAIリクエストを送信します。
2. Gatewayは、入力スキャンを行うためにリクエストをPrisma AIRSに送信します。
3. Prismaが許可と判断すればモデルが実行されます。ブロックと判断した場合は、リクエストは停止され、安全なメッセージとともに返されます。
4. モデルが応答すると、Gatewayはアプリに結果を返す前に出力スキャンを実行できます。

すべてのスキャンはログと紐付けられているため、後で監査や調査が可能です。

詳細については、以下のドキュメントをご覧ください。 Palo Alto Prisma AIRS

TrueFoundry Gatewayがもたらす追加のメリット

チームがTrueFoundry GatewayとPrisma AIRSの組み合わせを好む理由をご紹介します。

• どこにでも適用できるガードレール – 保護したいものだけを保護できます（例：本番モデルや高リスクツール）。
• アクセス制御 – 特定のモデルや連携機能を使用できるチームや個人を決定できます。
• 段階的ロールアウト – 小規模から開始し、テストを経て、ダウンタイムなしで適用範囲を拡大できます。
• 複数のガードレールを同時に – Prisma AIRSをAzureやBedrockのセーフティレイヤーと並行して実行し、多層的なセキュリティを実現します。
• 一元化された設定と監査証跡 – 手動でログを掘り起こすことなく、コンプライアンスを維持できます。

まとめ

AIセキュリティは、あなたの業務を遅らせるものではありません。Prisma AIRSは世界クラスの保護を提供し、TrueFoundry Gatewayは、書き換えやカスタムコード、手間をかけることなく、すべてのAIリクエストにその保護を適用することを驚くほど簡単にします。これらを組み合わせることで、安全を確保しながら迅速な行動が可能になります。