July 4, 2026
|
5 min read
أطر أمان الذكاء الاصطناعي في عام 2026: ما هي الأطر التي تنطبق وأين تتوقف حدود كل منها
By أشيش دوبي
Published: July 4, 2026
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
في عام 2026، أصبح لدى فرق أمان المؤسسات عدد أكبر من أطر أمان الذكاء الاصطناعي للاختيار من بينها أكثر من أي وقت مضى. يعالج كل من NIST وOWASP وMITRE ATLAS وGoogle SAIF وISO 42001 وCSA MAESTRO جوانب مختلفة من مشكلة أمان الذكاء الاصطناعي الشاملة، ولا يكتمل أي منها بمفرده.
بمجرد أن تحدد المؤسسات الأطر التي ستعتمدها، يجب عليها أن تفهم المشكلة التي صُمم كل إطار من أطر أمان الذكاء الاصطناعي لحلها، والأهم من ذلك، أين يتوقف كل منها.
يقارن هذا الدليل أطر أمان الذكاء الاصطناعي الرئيسية بناءً على نطاقها وجمهورها المستهدف وتغطيتها العملية، ويوضح مقدار ما يظل دون معالجة بعد اكتمال عمل الإطار.
.webp)
ما الذي تحاول أطر أمان الذكاء الاصطناعي حله؟
تم تطوير أطر الأمن السيبراني التقليدية خصيصًا للتطبيقات الحتمية. تعمل أنظمة الذكاء الاصطناعي سلوكيًا واحتماليًا، وتتعلم من بيانات التدريب، وتستخدم معالجة اللغة الطبيعية لتنفيذ التعليمات، وتزداد قدرتها على العمل بشكل مستقل. تقدم هذه الخصائص السلوكية مخاطر فريدة لم يتم تصميم أي إطار أمان سيبراني سابق لمعالجتها.
تحاول أطر أمان الذكاء الاصطناعي سد هذه الفجوة من خلال تقديم إرشادات منظمة لتحديد مخاطر الذكاء الاصطناعي، وحوكمة أنظمة الذكاء الاصطناعي طوال دورة حياتها، وبناء دفاعات موثوقة ضد الطرق التي يفشل بها الذكاء الاصطناعي أو يتعرض للاستغلال.
تواجه فرق أمان المؤسسات تحديًا حقيقيًا لأن الأطر المختلفة تغطي جوانب مختلفة من نفس المشكلة متعددة الطبقات. إن الاعتماد الفردي على أي إطار معين لأمان الذكاء الاصطناعي دون النظر في مجموعته الكاملة من الثغرات سيخلق نقاط ضعف يمكن تحديدها في الوضع الأمني العام للمؤسسة.
أطر أمان الذكاء الاصطناعي الأساسية
دعنا نلقي نظرة على أطر أمان الذكاء الاصطناعي الرئيسية:
إطار إدارة مخاطر الذكاء الاصطناعي من NIST
إطار إدارة مخاطر الذكاء الاصطناعي من NIST، الذي نشره المعهد الوطني للمعايير والتكنولوجيا، يتكون من أربعة مكونات رئيسية: الحوكمة (Govern)، التحديد (Map)، القياس (Measure)، والإدارة (Manage). تتضمن "الحوكمة" وضع السياسات وتحديد الأدوار والمسؤوليات. يتضمن "التحديد" تحديد أماكن استخدام الذكاء الاصطناعي والمخاطر المرتبطة بتطبيقه. يحدد "القياس" معايير تقييم تلك المخاطر. تنشئ "الإدارة" خطة لتنفيذ استراتيجيات تخفيف المخاطر بمجرد تحديد المخاطر التي تم تقييمها.
فيما يتعلق بالصناعات الخاضعة للتنظيم، يُعد إطار إدارة مخاطر الذكاء الاصطناعي من NIST هو مرساة الحوكمة الافتراضية. وهو مرتبط مباشرة بمستويات المخاطر المحددة في قانون الذكاء الاصطناعي للاتحاد الأوروبي، وتشير الصناعات الخاضعة للتنظيم، بما في ذلك الخدمات المالية والرعاية الصحية والبنية التحتية الحيوية، صراحةً إلى إطار إدارة مخاطر الذكاء الاصطناعي من NIST في إرشادات حوكمة الذكاء الاصطناعي الخاصة بها.
أوجه القصور: يوفر إطار إدارة مخاطر الذكاء الاصطناعي من NIST هياكل حوكمة، وليس ضوابط فنية. يحدد الهياكل المساءلة التي يجب أن تكون موجودة وفئات مخاطر الذكاء الاصطناعي التي يجب مراقبتها، لكنه لا يقدم إرشادات حول كيفية منع هجوم حقن الأوامر (prompt injection) أثناء التنفيذ. لا يتناول إطار إدارة مخاطر الذكاء الاصطناعي كيفية ضمان أن الوكلاء يمكنهم فقط استدعاء الأدوات التي يُصرح لمستخدميهم بالوصول إليها. يفترض أن كيانًا لاحقًا سيتولى التنفيذ. الفرق التي تعتبر الامتثال لإطار إدارة مخاطر الذكاء الاصطناعي من NIST شاملاً سيكون لديها سياسات مفصلة ولكن لا يوجد تنفيذ فعلي أثناء العمليات الحية.
.webp)
OWASP LLM Top 10 و Agentic Top 10
تحدد قائمة LLM Top 10، التي أنتجتها OWASP، أعلى مستويات المخاطر الأمنية لتطبيقات النماذج اللغوية الكبيرة، بما في ذلك حقن الأوامر (prompt injection)، ومعالجة المخرجات غير الآمنة، وتسميم البيانات، وهجمات حجب الخدمة على النموذج، واختراق سلسلة التوريد. توسع قائمة Agentic Top 10 هذه المخاطر من خلال تحديد المخاطر الفريدة التي تشكلها الوكلاء المستقلون، بما في ذلك الاستخدام غير الآمن للأدوات، والامتيازات المفرطة، وانتهاك حدود الثقة بين الوكلاء، والاستهلاك غير المتحكم فيه للموارد.
تساعد كلتا الوثيقتين في تحويل أبحاث الهجمات إلى ضوابط هندسية يمكن لفرق التطوير العمل عليها مباشرة. وهذا ذو قيمة خاصة للفرق التي تبني تطبيقات النماذج اللغوية الكبيرة (LLM)، حيث توفر OWASP أفضل نقطة انطلاق لفهم سطح الهجوم الذي يقدمه تطوير الذكاء الاصطناعي الخاص بهم.
أوجه القصور: تعمل OWASP كوثيقة للتوعية بالتهديدات، تحدد ما يجب معالجته بدلاً من وصف نهج برمجي للتطبيق المستمر. على الرغم من أن حقن الأوامر (prompt injection) هو بوضوح أعلى مخاطر أمن الذكاء الاصطناعي، فإن تحديده في وثيقة لا يعترضه في بيئة الإنتاج. إذا لم يكن هناك شيء في مكدس التشغيل يمكنه حظر حقن الأوامر في وقت التشغيل، فإن الوعي بـ OWASP وحده لا يوفر أي إجراءات أمنية ضده.
MITRE ATLAS
MITRE ATLAS هو فهرس للتكتيكات والتقنيات العدائية الفعلية المستخدمة ضد حلول الذكاء الاصطناعي. وهو منظم كمصفوفة مشابهة لـ MITRE ATT&CK، ويتوافق مباشرة مع فرق مركز العمليات الأمنية (SOC) التي تستخدم بالفعل أدوات أمنية قائمة على ATT&CK. تشمل التقنيات التهرب من النموذج، وتسميم البيانات، وهجمات الأبواب الخلفية، واستخراج النموذج، وكلها تستند إلى أبحاث منشورة وبيانات استجابة للحوادث مؤكدة بدلاً من نمذجة التهديدات التقديرية.
بالنسبة لفرق الهجوم (red teams)، يوفر ATLAS طريقة منظمة للاختبار ضد السلوكيات العدائية الواقعية لأنظمة الذكاء الاصطناعي. وبالنسبة لفرق الدفاع (blue teams)، يوفر ATLAS المفردات اللازمة لكتابة قواعد الكشف عن أنماط الهجوم الخاصة بالذكاء الاصطناعي وربط مخاطر الذكاء الاصطناعي بسير عمل SIEM الحالي.
القيود: يصف ATLAS كيفية حدوث الهجمات ويمكّن من اختبارها، وهو أمر ذو قيمة حقيقية. ومع ذلك، لا يوفر MITRE ATLAS ضوابط وقت التشغيل لأعباء عمل الذكاء الاصطناعي في بيئة الإنتاج. يمكن لفريق الأمن استخلاص نموذج تهديد كامل قائم على ATLAS، وإجراء تمرين فريق هجوم ضد كل تقنية من تقنيات ATLAS، ومع ذلك لا يجد أي دفاعات في وقت التشغيل تحمي مسارات الهجوم تلك في بيئة الإنتاج. يوفر ATLAS رؤية للثغرات ولكنه يتطلب أدوات منفصلة لسدها.
Google SAIF
حدد إطار عمل الذكاء الاصطناعي الآمن (Secure AI Framework) الذي طورته جوجل ستة مجالات تركيز واسعة:
1) بناء أسس أمنية متينة عبر منظومة الذكاء الاصطناعي؛
2) توسيع قدرات الكشف والاستجابة لتشمل مسار عمل الذكاء الاصطناعي؛
3) أتمتة الإجراءات الدفاعية للبقاء في صدارة المخاطر المعززة بالذكاء الاصطناعي؛
4) توحيد الضوابط على مستوى المنصة بحيث تحكمها سياسة شاملة واحدة؛
5) تعديل الضوابط حسب الضرورة بناءً على سياق نظام الذكاء الاصطناعي؛
6) تقييم مخاطر الذكاء الاصطناعي فيما يتعلق بنماذج التهديد الحالية.
يوفر SAIF للمؤسسات التي تطور تطبيقات الذكاء الاصطناعي على Google Cloud أو تستخدم معايير جوجل الهندسية فهمًا ممتازًا لأساليب أمن الذكاء الاصطناعي الفعالة بدءًا من المراحل الأولى لتطوير النموذج وصولاً إلى تطوير ونشر الذكاء الاصطناعي.
القيود: SAIF مفيد كممارسات عليا، ولكنه لا يصف ضوابط محددة أو كيفية تطبيقها بمجرد أن يكون تطبيق الذكاء الاصطناعي في بيئة الإنتاج. يوفر SAIF توجيهات جوهرية بشأن سلامة البيانات وأمن النموذج وأمن سلسلة التوريد خلال مرحلة تدريب النموذج، ولكنه يقدم نقطة بداية فقط لتطبيق الضوابط على عوامل الإنتاج بعد النشر.
ISO 42001
ISO 42001 هو معيار نظام إدارة دولي للذكاء الاصطناعي. يصف كيفية إنشاء وتطبيق وصيانة وتحسين نظام إدارة الذكاء الاصطناعي، باستخدام نفس الهيكل عالي المستوى مثل ISO 27001 (أمن المعلومات) و ISO 9001 (إدارة الجودة). يمكن للمؤسسات التي تستخدم بالفعل أطر حوكمة ISO توسيع برنامجها الحالي ليشمل الذكاء الاصطناعي باستخدام ISO 42001 كلغة مشتركة.
السبب الرئيسي لاعتماد المؤسسات لمعيار ISO 42001 هو أنه يوفر مسارًا للشهادة لتلبية متطلبات شهادة حوكمة الذكاء الاصطناعي التي تفرضها عمليات الشراء المؤسسية بشكل متزايد. ISO 42001 هو الإطار الأكثر مصداقية المتاح لهذا الغرض.
القيود: يركز معيار ISO 42001 على اعتماد نظام الإدارة، وليس على الضوابط التقنية أو تدابير الأمن التشغيلي. إنه يقدم دليلاً على أن المنظمة قد طورت سياستها لحوكمة الذكاء الاصطناعي، وأنشأت المساءلة، ونفذت عمليات المراجعة.
ومع ذلك، لا يتناول معيار ISO 42001 سلوك الذكاء الاصطناعي الوكيلي، أو حقن الأوامر، أو التنفيذ في وقت التشغيل على مستوى البنية التحتية. إن امتلاك نظام إدارة معتمد وفقًا لمعيار ISO 42001 لا يعني أن أنظمة المنظمة تقوم بتصفية أو تسجيل الطلبات الفردية التي تمر عبرها. يشهد الاعتماد على نظام إدارة الحوكمة، وليس على أمن البيانات أو فرض السياسات على حركة المرور الحية.
.webp)
كيفية استخدام أطر عمل متعددة معًا؟
لقد تم إنشاء أطر عمل أمان الذكاء الاصطناعي هذه لأغراض مختلفة، واستخدامها معًا يعوض نقاط ضعف كل منها.
يوفر إطار عمل NIST AI RMF نموذج الحوكمة. وتعمل قائمة OWASP LLM Top 10 و Agentic Top 10 كأساس للمطورين والمهندسين لتقييم الثغرات الأمنية، غالبًا جنبًا إلى جنب مع أدوات أمان كود الذكاء الاصطناعي المستخدمة لتحديد مخاطر التنفيذ أثناء التطوير والنشر. يدعم MITRE ATLAS نمذجة التهديدات واختبار الاختراق (red teaming) ضد تقنيات الهجوم الخاصة بالذكاء الاصطناعي. يتولى ISO 42001 التحقق الخارجي والامتثال التنظيمي. ويوفر Google SAIF إرشادات حول دمج الأمان في تطوير النماذج وتدريبها.
يوفر تجميع أطر عمل أمان الذكاء الاصطناعي هذه ضمانًا إضافيًا بأن جميع طبقات نظام الذكاء الاصطناعي قد تم أخذها في الاعتبار. يوفر NIST AI RMF إرشادات حول ما يجب حوكمته. يوفر OWASP إرشادات حول ما يجب مراقبته. يوفر ATLAS إرشادات حول كيفية تنفيذ الهجمات. يوفر ISO 42001 دليلاً على الامتثال للمتطلبات التنظيمية. يوفر SAIF إرشادات حول كيفية تطوير نماذج ذكاء اصطناعي آمنة.
ومع ذلك، لا تزال هناك فجوة حرجة واحدة. لا يتناول أي من أطر عمل أمان الذكاء الاصطناعي هذه مستوى التحكم الذي يتطلب فرض السياسات على كل طلب ذكاء اصطناعي، وإجراء وكيل، واستدعاء أداة قبل التنفيذ.
.webp)
ما الذي لا تتناوله أطر عمل أمان الذكاء الاصطناعي؟
تفرض جميع أطر عمل أمان الذكاء الاصطناعي التي تمت مراجعتها هنا الإجراءات على أحد المستويات الثلاثة: السياسة، أو التوثيق، أو نمذجة التهديدات. لا يفرض أي منها ضوابط مباشرة على حركة مرور الاستدلال المباشرة.
إن استخدام NIST AI RMF لا يمنع وكيلاً مفرط الصلاحيات من تنفيذ إجراء عبر أداة مقيدة؛ بل يعتمد على شيء لاحق للتعامل مع التنفيذ بشكل صحيح.
يحدد OWASP حقن الأوامر كأهم ثغرة أمنية في الذكاء الاصطناعي، لكن الاعتراف بها في وثيقة لا يمنع التعليمات المحقونة من الوصول إلى نموذج ذكاء اصطناعي إنتاجي.
يوفر MITRE ATLAS نموذجًا لكيفية استغلال المهاجم لقدرات الوكيل، لكنه لا يمنع هذا الاستغلال في نشر حي. يحدد فريق الاختراق الثغرة الأمنية. ويجب أن تعالج طبقة تقنية منفصلة هذه الفجوة.
يشير اعتماد ISO 42001 إلى وجود نظام إدارة، لكنه لا يضمن تسجيل أو تصفية جميع الطلبات التي يعالجها هذا النظام في الوقت الفعلي.
هذه الفجوة هيكلية. لقد صُممت أطر عمل أمان الذكاء الاصطناعي لبيئات التخطيط والتوثيق والاختبار. يتطلب سد هذه الفجوة مستوى تحكم يعمل على مستوى البنية التحتية، حيث تُنفذ أنظمة الذكاء الاصطناعي في الوقت الفعلي، وحيث تُفرض السياسات قبل وصول الطلبات إلى النماذج والأدوات.
كيف تقوم TrueFoundry بتفعيل أطر عمل أمان الذكاء الاصطناعي على مستوى البنية التحتية؟
.webp)
تعتمد TrueFoundry على فرضية مهمة. يجب أن يفرض مستوى البنية التحتية أطر التحكم كما وُصفت سابقًا، وعدم ترك تطبيقها لفرق التطوير الفردية أو توثيقها في وثائق الحوكمة.
يتم نشر منصة TrueFoundry في حساب العميل على AWS / GCP / Azure وتفرض السياسة عند طبقة البوابة قبل أن يتلقى النموذج/الأداة أي طلبات.
- معالجة استخدام الأدوات غير الآمنة وفقًا لـ OWASP: يربط حقن هوية OAuth 2.0 كل إجراء يقوم به الوكيل بنطاق صلاحيات المستخدم المصادق عليه. لا يمكن للوكيل استدعاء أداة إلا إذا كان المستخدم الطالب مخولاً بالوصول إليها، مطبقًا بذلك مبدأ الحد الأدنى من الامتيازات الذي تصفه أطر أمان الذكاء الاصطناعي ولكنها لا تستطيع فرضه بنفسها.
- المواءمة مع معايير حوكمة NIST AI RMF: تؤسس آلية التحكم في الوصول لكل نموذج ولكل أداة مساءلة إدارة مخاطر الذكاء الاصطناعي على مستوى النظام بدلاً من تركها لوثائق السياسات التي قد تطبقها فرق التطوير بشكل متسق أو لا تطبقها.
- معالجة حقن الأوامر OWASP LLM01: يتم تطبيق تصفية حقن الأوامر على مستوى البنية التحتية قبل أن تصل التعليمات إلى سياق نموذج الذكاء الاصطناعي. تعالج إزالة معلومات التعريف الشخصية (PII) مشكلة الكشف عن المعلومات الحساسة (OWASP LLM06) عن طريق اعتراض البيانات الشخصية والبيانات الحساسة قبل دخولها إلى النموذج، محققة بذلك متطلبات حماية البيانات التي تحددها أطر أمان الذكاء الاصطناعي.
- إنشاء سجلات قابلة للتدقيق: تفي سجلات التدقيق غير القابلة للتغيير بالمتطلبات المشار إليها في NIST AI RMF و ISO 42001 وقانون الذكاء الاصطناعي للاتحاد الأوروبي دون الحاجة إلى بنية تحتية منفصلة للتسجيل لكل فريق أو تطبيق.
- معالجة متطلبات خصوصية البيانات وإقامتها: يتوافق النشر الأصلي لـ VPC مع متطلبات السيادة والإقامة التي تشير إليها جميع أطر أمان الذكاء الاصطناعي ولكن لا يفرض أي منها هذه المتطلبات بمفرده.
- سد الفجوة بين إرشادات الأطر والواقع التنظيمي: على مستوى البنية التحتية، يتم فرض كل سياسة على كل طلب تنفيذ، بدلاً من توثيقها في ملف حوكمة وتطبيقها بشكل غير متسق عبر الفرق.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.
Built for Speed: ~10ms Latency, Even Under Load
The fastest way to build, govern and scale your AI
Sign Up
How Can You Prevent GenAI Costs From Spiraling at Scale?
Gartner Hype Cycle for Platform Engineering 2026
One Layer of Control for All AI
Discover More
No items found.
No items found.
Recent Blogs
.png)
.webp)
.webp)
Frequently asked questions
What are the main AI security frameworks?
The primary AI security frameworks in 2026 are the NIST AI Risk Management Framework for governance and AI risk management; OWASP LLM Top 10 and Agentic Top 10 for engineering-level security vulnerabilities; MITRE ATLAS for adversarial threat intelligence; Google SAIF for secure AI framework development principles; and ISO 42001 for AI governance management system certification. Each covers a different layer of the AI security problem and must be used together for comprehensive coverage.
What is the framework for securing AI?
No singular AI security framework addresses all AI security concerns comprehensively. The NIST AI Risk Management Framework provides the foundational governance structure for AI risk management. However, building operational AI security requires layering multiple AI security frameworks together and implementing technical controls at the infrastructure layer where the AI system executes, ensuring that security measures apply to live traffic and not only to governance documentation.
Which AI security framework should a regulated industry organization prioritize first?
Start with the NIST AI RMF for governance and regulatory compliance. Layer in OWASP for engineering-level security vulnerabilities and prompt injection coverage. Add ISO 42001 if procurement processes or external compliance requirements require certification. Throughout this process, recognize that none of these AI security frameworks replace the need for runtime enforcement of live AI system traffic and sensitive data protection at the infrastructure layer.
How do AI security frameworks address the specific risks introduced by autonomous AI agents?
The OWASP Agentic Top 10 most directly addresses agent-level AI security risk, covering insecure tool use, excessive permissions, and multi-agent trust boundaries. MITRE ATLAS maps techniques applicable to agent exploitation. The NIST AI RMF and ISO 42001 provide governance structures extensible to agents but neither prescribes agent-specific technical controls. Enforcing AI security controls at the agent level requires infrastructure-level tooling that operates at runtime against every agent action.
