企業におけるAIガードレール：安全なイノベーションの確保

PII検出および変換ガードレール

TrueFoundryのPIIガードレールは、入力プロンプトと出力応答の両方で個人を特定できる情報（PII）を自動的に識別して処理し、機密データの漏洩を防ぎます。input_guardrailsとoutput_guardrailsをtype piiで設定することで、コンプライアンス要件に基づいて、検出されたエンティティを検証または変換のいずれかを選択できます。

サポートされているPIIの種類

ガードレールエンジンは、メールアドレス、電話番号、社会保障番号、クレジットカード情報、住所、政府発行の識別子（パスポート、運転免許証、納税者番号）など、包括的なPIIカテゴリセットを認識します。TrueFoundryは、英国のNHS番号、インドのAadhaar ID、オーストラリアのTFNなどの地域ごとのバリアントもサポートしており、グローバルな展開全体で幅広いカバレッジを確保します。

設定オプション

各PIIガードレールルール内で、optionsブロックはターゲットとするエンティティタイプを指定します。 

input_guardrails:
  - type: pii
    action: transform
    options:
      entity_types:
        - email
        - phone
        - ssn

action: transform を設定すると、検出されたエンティティはモデルに到達する前に匿名化されたプレースホルダーに置き換えられます。あるいは、action: validate は、許可されていないPIIを含むリクエストを拒否し、プロンプトを転送する代わりにエラーを返します。

変換の利点

• プライバシーの確保: ユーザーの個人データはクリアテキストで保存または処理されることはなく、データ侵害のリスクを低減します。
  
• 規制コンプライアンス: 自動的な編集により、手動での介入なしにGDPR、HIPAA、およびその他のプライバシー規制を満たすことができます。
  
• 監査可能性: 各編集は記録され、どのリクエストがなぜ変更されたかの明確な記録が残ります。

PIIガードレールを活用することで、企業は機密情報が常に検出され、ポリシーに従って処理されることを認識しながら、顧客向けアプリケーション、社内分析、共同作業ワークフローにLLMを自信を持って展開できます。

コンテンツコンプライアンスのためのトピックフィルタリングガードレール

トピックフィルタリングガードレールは、AIが許可されていない主題について議論するのを防ぐセマンティックルールを適用します。設定可能な禁止トピックリストに対して、受信プロンプトと送信応答の両方を検査することで、企業はすべてのやり取りが定義されたコンテンツ境界内に留まることを保証し、ブランドの評判を保護し、規制順守を維持できます。

ブロックする主題領域は、お客様が決定します。一般的なユースケースは次のとおりです。

• 医療アドバイス
• 法的助言
• 罵り言葉
• ヘイトスピーチ
• 暴力
• 機密性の高い政治的または財務的ガイダンス
  

設定オプション

各トピックのガードレールでは、オプションブロックで2つの主要なパラメータを指定します。

• denied_topics: 許可しないトピック文字列の配列。
  
• Threshold: 0.0から1.0までの浮動小数点数で、分類器の感度を設定します。値が高いほど、関連性の高いコンテンツのみがフラグ付けされます。値が低いほど、境界線上の言及を捕捉するために広範囲にわたって検出します。
  

設定例

input_guardrails:
  - type: topics
    action: 検証
    options:
      threshold: 0.75
      denied_topics:
        - 医療アドバイス
        - 不適切な言葉

output_guardrails:
  - type: トピック
    action: 検証
    options:
      threshold: 0.85
      denied_topics:
        - 医療アドバイス
        - 不適切な言葉

メリット

• フェイルファスト保護: しきい値を超えたリクエストやレスポンスは即座にブロックされ、許可されていないコンテンツがユーザーに届くのを防ぎます。
  
• 一元的なガバナンス: アプリケーションコードを変更することなく、すべてのLLMデプロイメントにわたって一貫したトピックポリシーを適用できます。
  
• カスタマイズ可能な感度: リスクプロファイルに基づいて、誤検知と見逃しのバランスを取るようにしきい値を微調整できます。
  
• 監査可能性: すべてのブロックイベントがログに記録され、監査、コンプライアンスレビュー、ポリシー調整のための明確な記録を残します。
  

TrueFoundryは、ゲートウェイ層にトピックフィルターを組み込むことで、厳格なコンテンツ基準を簡単に適用しつつ、シームレスなユーザーエクスペリエンスを維持します。

Governing Enterprise AI at Scale: The MCP Gateway Blueprint

$2 Million

The

Wake-Up Call

Your integration architecture determines whether AI becomes a competitive advantage or unmanageable risk.

A Fortune 500 Spent $2M Fixing Ungoverned AI

Don't let this be you, get the complete Al governance blueprint.

Thank you! Your submission has been received!

Oops! Something went wrong while submitting the form.

カスタムブロックリスト向けの単語フィルタリングガードレール

TrueFoundryの単語フィルタリングガードレールは、AIゲートウェイを通過するあらゆる単語やフレーズをきめ細かく制御できます。カスタムブロックリストを定義することで、独自の用語、不適切な表現、またはあらゆる機密性の高い言葉を、モデルに到達する前と生成された後の両方で検出・処理できます。これにより、貴社の LLM駆動型アプリケーション が、許可されていない用語を公開したり、ブランドイメージにそぐわない言葉を使ってしまうことを防ぎます。

各word_filterガードレールでは、フィルタリング動作を調整するために、word_list、case_sensitive、whole_words_only、およびreplacementの各オプションを指定します。word_listは、検出したい単語やフレーズの配列です。case_sensitive: falseを設定すると、大文字と小文字を区別せずに一致させます。一方、whole_words_only: trueは、単独の単語のみがフラグ付けされるようにし、より長い単語内の意図しない一致を回避します。replacementフィールドは、action: transformが選択されたときに使用されるプレースホルダーテキスト（例：「[REMOVED]」）を定義します。あるいは、action: validateを選択すると、ブロックリストに登録された単語を含むすべてのリクエストが拒否され、コンテンツをモデルに転送する代わりにエラーが返されます。

以下は、入力と出力の両方に単語フィルタリングを適用し、独自の用語ブロックリストを持つGPT-4デプロイメントを対象とした設定例です。

name: word-filter-guardrails
type: word-filter-guardrails-config
guardrails_service_url: https://word-filter-service.company.com
rules:
  - id: block-proprietary-terms
    when:
      models:
        - openai/gpt-4
    input_guardrails:
      - type: word_filter
        action: transform
        options:
          word_list:
            - "secretProject"
            - "ベータ機能"
          大文字小文字の区別: false
          単語全体のみ: true
          置換: "[REMOVED]"
    出力ガードレール:
      - タイプ: 単語フィルター
        アクション: 変換
        オプション:
          単語リスト:
            - "秘密プロジェクト"
            - "ベータ機能"
          大文字小文字の区別: false
          単語全体のみ: true
          置換: "[REMOVED]"

単語フィルターが作動するたびに、TrueFoundryは、どのルールがトリガーされたか、元のテキストと変換されたテキスト、およびユーザーまたはサービスコンテキストに関する詳細とともにイベントをログに記録します。これらの監査ログは、セキュリティおよびコンプライアンスチームがインシデントをレビューし、ブロックリストを調整し、社内ポリシーや業界規制への準拠を実証するのに役立ちます。ゲートウェイで単語フィルタリングを一元化することで、開発者はアプリケーションコードにその場しのぎのチェックを散りばめる必要がなくなります。ポリシーは一箇所に集約され、更新が容易で、すべての LLMワークロードに一貫して適用されます。

効果的なガードレールを構築するためのベストプラクティス

ガードレールは、組織のリスクプロファイルとユースケースに密接に合致している場合に最も効果を発揮します。まず、機密データ、規制遵守、ブランドボイスなど、保護すべきものを明確に定義し、それぞれの要件をPII、トピック、単語フィルターといった特定のガードレールタイプにマッピングすることから始めましょう。法務、コンプライアンス、製品チームの利害関係者を早期に巻き込み、ポリシーが現実世界の制約を反映し、重要なワークフローを意図せずブロックしないようにすることが重要です。

次に、ルールはできるだけ焦点を絞ったものにしてください。広範な「すべて拒否」リストは、ユーザーを苛立たせる過剰な誤検知につながる可能性があります。代わりに、関連するポリシーをコンテキストによってスコープ分けされた個別のルールにグループ化し、`when`ブロックを使用して特定のモデル、チーム、またはメタデータをターゲットにします。例えば、顧客対応ボットには厳格なPII編集を適用し、社内分析アシスタントにはより自由な記述を許可するといった具合です。このモジュール式アプローチにより、ガードレールの維持と進化が容易になります。

閾値調整も重要な実践です。非クリティカルな環境では、控えめな感度レベルから始め、ルールがどのくらいの頻度で発動するかを観察し、実際の使用状況に基づいて閾値を上下に調整します。各ガードレールイベントのログを使用して、誤検知や見逃された違反のパターンを特定し、設定を繰り返し改善します。既知のポリシー違反をプロンプトや期待される応答に注入する自動テストスイートは、本番環境に更新をプッシュする前にルールカバレッジを検証するのに役立ちます。

ドキュメントと 可観測性 は不可欠です。各ルールの目的と範囲を明確に記述したガードレール設定の中央リポジトリを維持します。ログがどのルールによってトリガーされたか、一致したコンテンツ、および適用された変換を確実にキャプチャするようにします。これらのログを監視ツールと統合し、ルール発動率が予期せず急増した場合にアラートを発することで、潜在的な悪用やユーザー行動の変化を知らせます。

最後に、ユーザーと開発者とのフィードバックループを確立します。エンドユーザーやアプリケーションチームが過剰なブロックやポリシーの欠落を報告できるメカニズムを提供します。フィードバック、使用状況メトリクス、セキュリティ監査結果を定期的に見直し、ガードレールを改善します。明確な目標、的を絞ったルール、反復的な調整、そして強力な可観測性を組み合わせることで、イノベーションを妨げることなく企業を保護するガードレールフレームワークを構築できるでしょう。

結論 

ガードレールは、強力でありながら予測不可能なLLMを、あらゆるインタラクションで明確な状況認識ポリシーを適用することで、信頼性の高いエンタープライズグレードのサービスへと変革します。機密性の高いPIIのマスキング、許可されていないトピックのブロック、独自の用語のフィルタリングといった簡潔な入出力ルールを定義することで、アプリケーションコードに手を加えることなく、データプライバシーを維持し、ブランドボイスを守り、規制要件を満たすことができます。whenブロックを介してスコープ設定されたモジュール式ルールにより、モデル、チーム、またはワークフローごとに適用を調整でき、閾値調整と堅牢なロギングは保護と使いやすさのバランスを保証します。TrueFoundryのガードレールにより、一元的な制御、継続的な監査可能性、そしてすべてのリクエストとレスポンスがガバナンス基準に準拠しているという確信を持って、AIを大規模に展開する自信が得られます。