2026年におけるAIセキュリティフレームワーク:適用範囲とそれぞれの限界
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
2026年現在、エンタープライズのセキュリティチームが選択できるAIセキュリティフレームワークはかつてないほど充実しています。NIST、OWASP、MITRE ATLAS、Google SAIF、ISO 42001、CSA MAESTROは、それぞれAIセキュリティという全体的な課題の異なる側面に対応していますが、単体で完結しているものは1つもありません。
組織が採用すべきフレームワークを決定した後は、各AIセキュリティフレームワークがどのような問題を解決するために設計されたのか、そしてより重要な点として、どこでその役割が終了するのか(限界)を理解する必要があります。
本ガイドでは、主要なAIセキュリティフレームワークをスコープ、対象読者、実用的なカバー範囲に基づいて比較し、フレームワークの適用完了後にもどの程度の課題が未対応のまま残るかを示します。
.webp)
AIセキュリティフレームワークは何を解決しようとしているのか?
従来のサイバーセキュリティフレームワークは、決定論的なアプリケーション向けに特化して開発されました。一方、AIシステムは行動的かつ確率的に動作し、訓練データから学習し、自然言語処理を使用して命令を実行し、独立して動作する能力を急速に高めています。これらの行動的特性は、従来のサイバーセキュリティフレームワークでは対処できるように設計されていなかった固有のリスクをもたらします。
AIセキュリティフレームワークは、AIリスクの特定、AIライフサイクル全体にわたるAIシステムのガバナンス構築、そしてAIの障害や悪用に対する信頼性の高い防御策の構築に関する構造化されたガイドラインを提供することで、このギャップを埋めようとしています。
多層的な問題の異なる側面をさまざまなフレームワークがカバーしているため、エンタープライズのセキュリティチームは真の課題に直面しています。完全なギャップのセットを考慮せずに特定のAIセキュリティフレームワークだけに依存すると、エンタープライズ全体のセキュリティ姿勢に明確な弱点が生じることになります。
中核となるAIセキュリティフレームワーク
主要なAIセキュリティフレームワークを見ていきましょう。
NIST AI Risk Management Framework
米国国立標準技術研究所(NIST)が発行したNIST AI RMFには、「Govern(統治)」、「Map(マッピング)」、「Measure(測定)」、「Manage(管理)」の4つの主要コンポーネントがあります。「Govern」はポリシーの策定と役割・責任の定義を行います。「Map」はAIが使用されている場所とその実装に関連するAIリスクを特定します。「Measure」はそれらのリスクを評価するための基準を定義します。「Manage」は評価されたリスクが特定された後、リスク軽減戦略を実施するための計画を策定します。
規制対象の業界に関して、NIST AI Risk Management Frameworkはデフォルトのガバナンスのアンカー(拠り所)となっています。EU AI Actで定義されているリスク階層に直接マッピングされており、金融サービス、ヘルスケア、重要インフラを含む規制対象業界は、自社のAIガバナンスガイドラインでNIST AI RMFを明示的に参照しています。
限界: NIST AI RMFはガバナンス構造を提供するものであり、技術的制御を提供するものではありません。どのような責任構造が存在すべきか、どのAIリスクカテゴリを監視すべきかを定義しますが、実行中のプロンプトインジェクション攻撃を防止する方法についてのガイダンスは提供しません。AI RMFは、エージェントがユーザーのアクセス権限のあるツールのみを呼び出せるようにする方法には言及していません。ダウンストリームのエンティティが強制適用を処理することを前提としています。NIST AI RMFへの準拠のみで十分と考えているチームは、詳細なポリシーを保持していても、実際の運用中に適用される実体的な制御機構を欠くことになります。
.webp)
OWASP LLM Top 10 および Agentic Top 10
OWASPが作成したLLM Top 10は、プロンプトインジェクション、安全でない出力処理、データポイズニング、モデルへのDoS攻撃、サプライチェーン侵害など、大規模言語モデルアプリケーションに対する最高レベルのセキュリティリスクの概要を示しています。Agentic Top 10は、安全でないツールの使用、過剰な権限、エージェント間の信頼境界の違反、制御されないリソース消費など、自律型エージェントによってもたらされる固有のリスクを特定することでこれらのリスクを拡張しています。
両文書とも、攻撃研究を開発チームが直接実行できるエンジニアリングコントロールに変換するのに役立ちます。OWASPはAI開発によって導入される攻撃対象領域を理解するための最高の出発点を提供するため、LLMアプリケーションを構築するチームにとって特に価値があります。
限界: OWASPは脅威認識文書として機能し、継続的な強制適用へのプログラム的アプローチを処方するのではなく、対処すべき事項を特定します。プロンプトインジェクションが明らかに最大のAIセキュリティリスクであるとしても、文書内でそれを特定しただけでは本番環境での発生を阻止できません。運用スタック内に実行時にプロンプトインジェクションをブロックできるものがなければ、OWASPの知識だけではそれに対するセキュリティ対策になりません。
MITRE ATLAS
MITRE ATLASは、AIベースのソリューションに対して使用される実際の敵対的な戦術と手法(TTPs)のカタログです。MITRE ATT&CKと同様のマトリックスとして構成されており、すでにATT&CKベースのセキュリティツールを使用しているSOCチームに直接マッピングされます。手法にはモデル回避、データポイズニング、バックドア攻撃、モデル抽出が含まれ、これらは推測による脅威モデリングではなく、公開された研究と確認済みのインシデント対応データに基づいています。
レッドチームにとって、ATLASはAIシステムの現実的な敵対的行動に対してテストするための構造化された方法を提供します。ブルーチームにとって、ATLASはAI固有の攻撃パターンに対する検知ルールを記述し、既存のSIEMワークフローにAIリスクをマッピングするために必要なボキャブラリーを提供します。
限界: ATLASは攻撃の発生方法を説明し、そのテストを可能にします。これは非常に価値があります。しかし、MITRE ATLASは本番のAIワークロードに対するランタイム制御を提供しません。セキュリティチームがATLASベースの完全な脅威モデルを導き出し、あらゆるATLAS手法に対してレッドチーム演習を実施したとしても、本番環境でそれらの攻撃経路を防御するランタイム防御が全く存在しないという事態が起こり得ます。ATLASはギャップの可視性を提供しますが、それを埋めるには別のツールが必要です。
Google SAIF
Googleが開発したSecure AI Framework(SAIF)は、6つの広範な注力分野を定めています。
1) AIエコシステム全体で堅牢なセキュリティ基盤を構築する。
2) 検知および対応機能をAIパイプラインに拡張する。
3) AIで強化されたリスクに先手を打つため防御対策を自動化する。
4) 1つの包括的なポリシーで管理されるようにプラットフォームレベルの制御を標準化する。
5) AIシステムのコンテキストに基づいて必要に応じて制御を調整する。
6) 既存の脅威モデルに関連してAIリスクを評価する。
SAIFは、Google Cloud上でAIアプリケーションを開発している組織やGoogleのエンジニアリング標準を使用している組織に、モデル開発の初期段階からAIの開発・デプロイに至るまでの効果的なAIセキュリティアプローチに関する優れた理解を提供します。
限界: SAIFは高レベルのベストプラクティスとして有用ですが、特定の制御方法や、AIアプリケーションが本番環境に入った後にそれらをどのように強制適用すべきかを規定していません。SAIFは、モデル訓練フェーズにおけるデータ整合性、モデルセキュリティ、サプライチェーンセキュリティに関する大幅なガイドラインを提供しますが、デプロイ後の本番エージェントに対する制御の実行に関しては、出発点を提供するにとどまります。
ISO 42001
ISO 42001は、AIに関する国際的なマネジメントシステム規格です。ISO 27001(情報セキュリティ)やISO 9001(品質マネジメント)と同じハイレベル構造を使用して、AIマネジメントシステムをどのように確立、導入、維持、継続的改善するかを説明しています。すでにISOガバナンスフレームワークを使用している組織は、ISO 42001を共通言語として使用することで、既存のプログラムをAIへと拡張できます。
組織がISO 42001を採用する主な理由は、企業の調達プロセスで課されることが増えているAIガバナンス認証の要件を満たすための認証パスが提供されるからです。ISO 42001はこの目的のために利用できる最も信頼性の高いフレームワークです。
限界: ISO 42001はマネジメントシステムの認証に重点を置いており、技術的制御や運用のセキュリティ対策には重点を置いていません。組織がAIガバナンスポリシーを策定し、責任を確立し、レビュープロセスを実施したことの証拠を提供します。
しかし、ISO 42001はエージェント型AIの動作、プロンプトインジェクション、あるいはインフラストラクチャレベルでのランタイム制御には対処していません。ISO 42001認証を取得したマネジメントシステムを持っているからといって、組織のシステムがそこを通過する個々のリクエストをフィルタリングまたはログ記録していることを意味するわけではありません。認証はガバナンスマネジメントシステムを証明するものであり、データセキュリティやライブトラフィックの強制適用を証明するものではありません。
.webp)
複数のフレームワークを組み合わせて使用するには?
これらのAIセキュリティフレームワークは異なる目的で作成されたものであり、これらを組み合わせて使用することで、それぞれの弱点を補い合うことができます。
NIST AI RMFはガバナンスモデルを提供します。OWASP LLM Top 10およびAgentic Top 10は、セキュリティ脆弱性を評価するための開発者およびエンジニアのベースラインとして機能し、多くの場合、開発およびデプロイ中の実装リスクを特定するために使用されるAIコードセキュリティツールとともに使用されます。MITRE ATLASは、AI固有の攻撃手法に対する脅威モデリングとレッドチーミングをサポートします。ISO 42001は外部検証と規制コンプライアンスを処理します。Google SAIFは、モデル開発およびモデル訓練にセキュリティを組込むためのガイダンスを提供します。
これらのAIセキュリティフレームワークを重ね合わせることで、AIシステムのすべての層が考慮されているというさらなる確証が得られます。NIST AI RMFは何を統治すべきかについてのガイドラインを提供します。OWASPは何を監視すべきかについてのガイドラインを提供します。ATLASは攻撃がどのように実行されるかについてのガイドラインを提供します。ISO 42001は規制要件への準拠の証明を提供します。SAIFは安全なAIモデルを開発する方法についてのガイドラインを提供します。
しかし、1つの決定的なギャップが残されています。これらのAIセキュリティフレームワークのいずれも、実行前に行われるすべてのAIリクエスト、エージェントのアクション、およびツールの呼び出しに対してポリシー制御を必要とする「コントロールプレーン」について対処していません。
.webp)
AIセキュリティフレームワークが未対処のまま残すものとは?
ここでレビューしたすべてのAIセキュリティフレームワークは、ポリシー、ドキュメント、または脅威モデリングの3つのレベルのいずれかでアクションを規定しています。本番の推論トラフィックに対して直接コントロールを適用するものは1つもありません。
NIST AI RMFを使用しても、過剰な権限を持つエージェントが制限されたツールを介してアクションを実行するのを防ぐことはできません。正しく制御を実行するにはダウンストリームの何かに依存することになります。
OWASPはプロンプトインジェクションを最大のAIセキュリティ脆弱性として特定していますが、文書内でそれを認識しても、注入された命令が本番のAIモデルに到達するのをブロックすることはできません。
MITRE ATLASは攻撃者がエージェントの機能をどのように悪用するかというモデルを提供しますが、実際のデプロイ環境でその悪用を防ぐことはできません。レッドチームは脆弱性を特定します。別の技術層がそのギャップに対処しなければなりません。
ISO 42001認証はマネジメントシステムが存在することを示しますが、そのシステムによって処理されるすべてのリクエストがリアルタイムでログ記録またはフィルタリングされていることを保証するものではありません。
このギャップは構造的なものです。AIセキュリティフレームワークは、計画、ドキュメント化、およびテスト環境向けに設計されました。このギャップを埋めるには、AIシステムがリアルタイムで実行され、リクエストがモデルやツールに到達する前にポリシーが適用されるインフラストラクチャ層で動作するコントロールプレーンが必要です。
TrueFoundryはどのようにしてインフラストラクチャ層でAIセキュリティフレームワークを運用化するのか?
.webp)
TrueFoundryは重要な前提に基づいて動作します。インフラストラクチャ層は、前述のコントロールフレームワークを強制適用すべきであり、その適用を個々の開発チームに委ねたり、ガバナンスの成果物内に記述するだけで終わらせたりすべきではありません。
TrueFoundryプラットフォームは、お客様のAWS / GCP / Azureアカウントにデプロイされ、モデルやツールがリクエストを受信する前のゲートウェイ層でポリシーを適用します。
- OWASPの安全でないツールの使用への対処: OAuth 2.0アイデンティティインジェクションにより、すべてのエージェントアクションが認証済みユーザーの権限スコープに紐付けられます。リクエストを行っているユーザーにアクセス権限がない限りエージェントはツールを呼び出すことができず、AIセキュリティフレームワークが言及しながらも自ら強制適用できない最小権限の原則を直接実装します。
- NIST AI RMFガバナンス標準へのマッピング: モデルごとおよびツールごとのアクセス制御メカニズムにより、開発チームが統一性なく導入する可能性のあるポリシー文書に委ねるのではなく、システムレベルでAIリスク管理の責任を確立します。
- OWASP LLM01プロンプトインジェクションへの対処: 命令がAIモデルのコンテキストに到達する前に、インフラストラクチャレベルでプロンプトインジェクションフィルタリングが適用されます。PIIマスキングは、個人データや機密データがモデルに入る前に傍受することでOWASP LLM06の機密情報開示に対処し、AIセキュリティフレームワークが規定するデータ保護要件を満たします。
- 監査可能な記録の生成: 改ざん不可能な監査記録により、チームやアプリケーションごとに個別のロギングインフラストラクチャを必要とすることなく、NIST AI RMF、ISO 42001、およびEU AI Actで示されている要件を満たします。
- データプライバシーとデータレジデンシー要件への対処: VPCネイティブデプロイメントにより、すべてのAIセキュリティフレームワークが提示していながら、単体では強制適用できない主権およびレジデンシー要件に準拠します。
- フレームワークのガイダンスと組織の現実とのギャップを埋める: インフラストラクチャレベルでは、すべての実行リクエストに対してすべてのポリシーが強制適用されます。ガバナンスバインダーに記載されチーム間でばらばらに適用されるようなことはありません。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.


Recent Blogs
Frequently asked questions
主要なAIセキュリティフレームワークにはどのようなものがありますか?
2026年における主要なAIセキュリティフレームワークは、ガバナンスとAIリスク管理のための「NIST AIリスクマネジメントフレームワーク」、エンジニアリングレベルのセキュリティ脆弱性に対応する「OWASP LLM Top 10」および「Agentic Top 10」、敵対的脅威インテリジェンスのための「MITRE ATLAS」、安全なAIフレームワーク開発原則を定めた「Google SAIF」、そしてAIガバナンス管理システムの認証規格である「ISO 42001」です。これらはそれぞれAIセキュリティの異なるレイヤーをカバーしており、包括的な対策を実現するためにはこれらを組み合わせて活用する必要があります。
AIを保護するためのフレームワークとはどのようなものですか?
AIのセキュリティ上の懸念すべてを包括的に解決できる単一のAIセキュリティフレームワークは存在しません。NIST AIリスクマネジメントフレームワークは、AIリスク管理の基礎となるガバナンス構造を提供します。しかし、実用的なAIセキュリティを構築するには、複数のAIセキュリティフレームワークを組み合わせ、AIシステムが実行されるインフラストラクチャ層で技術的な制御を実装する必要があります。これにより、ガバナンスに関する文書だけでなく、実際のトラフィックに対してもセキュリティ対策が確実に適用されるようになります。
規制産業に属する組織は、どのAIセキュリティフレームワークを優先すべきでしょうか?
まずはガバナンスと規制遵守のためにNIST AI RMFから着手しましょう。次に、エンジニアリングレベルのセキュリティ脆弱性とプロンプトインジェクション対策としてOWASPを組み込みます。調達プロセスや外部のコンプライアンス要件で認証が必要な場合は、ISO 42001を追加してください。ただし、これらのAIセキュリティフレームワークを導入しても、AIシステムのライブトラフィックに対する実行時の強制制御や、インフラ層での機密データ保護の必要性がなくなるわけではない点に留意してください。
AIセキュリティフレームワークは、自律型AIエージェントがもたらす特有のリスクにどのように対処しているのでしょうか?
OWASP Agentic Top 10は、エージェントレベルのAIセキュリティリスクに直接焦点を当てており、安全でないツールの使用、過剰な権限、マルチエージェント間の信頼境界といった課題を網羅しています。MITRE ATLASは、エージェントの悪用に適用可能な手法をマッピングしています。NIST AI RMFやISO 42001はエージェントにも拡張可能なガバナンス構造を提供していますが、いずれもエージェント固有の技術的制御を規定するものではありません。エージェントレベルでAIセキュリティ制御を強制するには、すべてのエージェントの動作に対して実行時に機能するインフラストラクチャレベルのツールが必要です。












.webp)





.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






