تآكل الحوكمة: كيف يؤدي ضغط السياق إلى إضعاف سياسات الوكلاء — وأين يجب أن تكمن آليات التنفيذ

مصطلح جديد يمنح اسماً لأكثر أنماط الفشل هدوءاً في ذكاء المؤسسات الاصطناعي: تآكل الحوكمة — التآكل الصامت للقواعد السياقية للوكيل مع ضغط سجل محادثاته. ظهر هذا المصطلح في ورقة بحثية صدرت في يونيو 2026 بعنوان "تآكل الحوكمة: كيف يمحو ضغط السياق قيود الأمان بصمت في وكلاء النماذج اللغوية الكبيرة طويلة المدى" (arXiv:2606.22528)، والسيناريو الافتتاحي لها يستحق الشهرة. يتم توجيه وكيل بعدم إرسال أي عقد عبر البريد الإلكتروني خارج المؤسسة؛ فيلتزم بذلك لعشرات الجولات، رافضاً الطلب بشكل صحيح. ثم يتجاوز سجله حجم نافذة السياق ويتم إجراء الضغط — وهي خطوة التلخيص الروتينية القائمة على النماذج اللغوية الكبيرة التي تنفذها كل أنظمة العمل طويلة المدى حالياً، والمصممة للحفاظ على استمرارية المهام. يسجل الملخص حالة المهمة بأمانة، ومن أجل تحسين الاستمرارية، يقوم بهدوء بإسقاط "مقدمة الامتثال" القديمة. وعند سؤاله مرة أخرى، يقوم الوكيل بإرسال العقد. لا يوجد اختراق، ولا تغيير في النموذج، ولا طلب جديد: القاعدة التي كان يلتزم بها الوكيل لم تعد أمامه ببساطة. تزيد نتائج الورقة من حدة التحذير: التآكل هو خاصية في نظام التشغيل (harness)، وليس في النموذج — فالنماذج الأقوى تسقط أيضاً؛ كما أنه قابل للاستغلال، حيث يمكن لخصم قادر على وضع محتوى في السياق تسريع عملية النسيان؛ والدفاع المقترح، تثبيت القيود (constraint pinning)، يساعد ولكنه يُهزم من خلال انتحال شخصية المشغل، وهو أمر يشير المؤلفون إلى أنه يتطلب "قناة مشغل موثوقة خارج النطاق" لإغلاقه. وتأتي الخاتمة في سبع كلمات نقتبسها مرة واحدة: "حكم الوكلاء يتطلب التحكم في كيفية نسيانهم". هذا الدليل هو المرجع المؤسسي الذي تلمح إليه الورقة ولكنها لا تكتبه: ما هو تآكل الحوكمة، ولماذا جعل الضغط منه أمراً حتمياً، وكيف يختلف عن أنماط الفشل المشابهة — والإجابة المعمارية هي أن السياسات المهمة يجب أن تعيش حيث لا يمكن للضغط الوصول إليها: خارج نافذة السياق، ويتم إنفاذها في الطبقة التي تعبرها كل عملية استدعاء بالفعل. وكما هو الحال مع جميع مراجعنا للمصطلحات الحديثة، سنبقي هذه الصفحة محدثة مع تطور الأبحاث والمفردات.

ما هو تآكل الحوكمة؟ تعريف

تآكل الحوكمة هو الفقدان التدريجي والصامت لـ حوكمة السياق — أي سياسات المؤسسة، والتعليمات الدائمة، والقيود المحملة في الذاكرة التي تحدد ما يجب على الوكيل المنشور فعله وما لا يجب عليه فعله — وذلك مع ضغط سجل محادثات الوكيل ليتناسب مع نافذة السياق الخاصة به. الآلية عادية، وهذا ما يجعلها خطيرة. يراكم الوكلاء طويلو المدى السجل بشكل أسرع من نمو النوافذ؛ والاستجابة الهندسية السائدة هي ضغط السياق — وهي عملية تلخيص أو إخلاء قائمة على النماذج اللغوية الكبيرة تقوم بضغط النص دورياً — وقد تم تصميم الضغط لهدف واحد فقط: الحفاظ على دقة المهمة. السياسة الدائمة هي، من منظور الملخص، نص قديم ليس هو الهدف الفرعي الحالي، ويتنافس على ميزانية رموز محدودة مقابل حالة المهمة النشطة؛ لذا يتم تلخيصه أو تخفيفه أو إخلاؤه — ويعود الوكيل، الذي كان سلوكه جيداً بقدر ما هو موجود أمامه فقط، إلى الإعدادات الافتراضية غير الخاضعة للحوكمة دون أي إشارة إلى حدوث أي تغيير. يضيف البحث خاصيتين ترفعان هذا الأمر من مجرد خطأ برمجي إلى فئة مستقلة. أولاً، تدرج مرن/صلبتظل المعايير الصارمة المدمجة في النماذج (وهي الأمور التي تختبرها مقاييس الأمان) قائمة، بينما القواعد المرنة الخاصة بالنشر — قواعدك تلك التي يحددها المشغل — هي بالضبط ما يتآكل، وهذا هو السبب في أن الفشل لم يلحظه التقييم القياسي. ثانيًا، القابلية للاستغلال الهجومي: يمكن للمهاجم الذي يستطيع وضع محتوى في سياق الوكيل (الافتراض القياسي للحقن غير المباشر) أن يضخم التاريخ ويوجهه عمدًا بحيث تمحو عملية الضغط القيد الذي يعترض طريقهم. توضيح: تدهور الحوكمة ليس انحرافًا في النموذج (فالأوزان لم تتغير)، وليس تعفنًا في السياق (تدهور جودة الاسترجاع مع زيادة الطول)، وليس نسيانًا بالمعنى المعتاد في تعلم الآلة — إنه فقدان للمعلومات على مستوى نظام التشغيل له تبعات على الحوكمة، ويحدث هذا عن عمد في كل مرة يتم فيها تشغيل الضغط.

لمحة تاريخية: كيف أصبح الضغط سطحًا للحوكمة

المصطلح جديد، لكن التصادم الذي يشير إليه كان يتشكل منذ عامين. 2024–2025: تتجه الوكلاء نحو آفاق زمنية طويلة — استخدام الأدوات متعدد الخطوات، والتشغيل طوال اليوم، والجلسات المستمرة — وتتجاوز السجلات حتى نوافذ النماذج الرائدة، مما يجعل الضغط ميزة قياسية في أنظمة التشغيل بدلاً من كونه مجرد تحسين؛ وتتفق منظومة الممارسين على التلخيص القائم على العتبة، حيث يتم الضغط عند وصول السجل إلى 70–90% من سعة النافذة في الأطر البرمجية الشائعة، وفي الإعدادات الأكثر صرامة، عند بضعة آلاف من الرموز. بالتوازي، تنتقل الحوكمة إلى السياق: سطح التحكم القابل للنشر في هذا العصر يقع داخل السياق — مقدمات النظام، والتعليمات الدائمة، وقواعد التشغيل بأسلوب AGENTS.md، والذاكرة المحملة — لأنها الطبقة التي يمكن للمشغلين تحديدها فعليًا دون الحاجة لإعادة التدريب. 2025–2026: يبدأ مجتمع البحث في التعامل مع إدارة السياق كنظام فرعي أساسي للوكيل — مخططات الإخلاء المنظمة، وطي السياق مع التفرع والعودة، والضغط الواعي بذاكرة التخزين المؤقت للمفاتيح والقيم (KV-cache) — وكلها لا تزال تعمل على تحسين دقة المهام. يونيو 2026: ورقة arXiv 2606.22528 تضع اسمًا لهذا التصادم — حيث كانت قناة الحوكمة وخطوة الضغط موجهتين نحو بعضهما البعض طوال الوقت — وتثبت التدهور تجريبيًا عبر النماذج، وتوضح المتغير الهجومي، وتقترح تثبيت القيود (عزل القواعد القابلة للاستخراج بحيث يضطر المُلخِّص إلى نقلها معه)، وتدرج بصراحة حدود التثبيت: القيود الضمنية لا يمكن تثبيتها، كما أن التثبيت يُهزم بانتحال شخصية المشغل في السياق الحديث، وهو ما يتطلب "قناة مشغل موثوقة خارج النطاق". المصطلح مفيد ليس كاسم فحسب، بل كتشخيص يمكن للمؤسسة التصرف بناءً عليه في الحوادث التي وقعت بالفعل ولم تجد لها تفسيرًا، مثل الوكيل الذي "توقف فجأة عن اتباع القاعدة" دون وجود أي شيء في السجلات سوى عملية ضغط روتينية.

تدهور الحوكمة مقابل حقن الأوامر، وتعفن السياق، وانحراف النموذج

هناك ثلاثة فروق تجعل المصطلح دقيقًا، وأولها هو الأكثر أهمية من الناحية التشغيلية. مقابل حقن الأوامر: الحقن هو هجوم إضافة — تعليمات عدائية يتم تهريبها إلى السياق، وهو التهديد الذي يغطيه تحليل الدفاع ضد الحقن ؛ أما التدهور فهو فشل طرح — تعليمات وقائية تُزال بصمت بواسطة عمليات الصيانة الخاصة بالنظام نفسه. وهما يتفاعلان بشكل خطير: تظهر النتائج الهجومية في الورقة البحثية أن المحتوى المحقون يوجه عملية الضغط لمحو الدفاعات، مما يعني أن الأمر المُحكم ليس دفاعًا دائمًا إذا كان من الممكن محو هذا الإحكام نفسه عن طريق الضغط. مقابل تعفن السياق: يشير التعفن إلى تدهور الجودة مع نمو السياق — مثل أخطاء الاسترجاع، وتشتت الانتباه، وتراجع قدرة النموذج على استخدام ما هو متاح؛ بينما يشير التدهور إلى الحالة الخاصة بالحوكمة حيث لا يعود المحتوى موجودًا على الإطلاق. وهذا التمييز مهم لأن تدابير التخفيف من التعفن (تحسين الاسترجاع، نوافذ أطول) لا تعالج التدهور، في حين أن تدبير التخفيف من التدهور (نقل القاعدة خارج السياق) غير متاح للتعفن. مقابل انحراف النموذج: الانحراف هو تغير في السلوك ناتج عن تغيير في الأوزان أو الإصدارات؛ أما التحلل فيحدث بينما النموذج في حالة جمود، وهذا هو السبب الدقيق وراء إفلاته من أدوات المراقبة المصممة لرصد الانحراف، وهو أيضاً السبب في أن النتيجة العملية للورقة البحثية هي أن المشكلة تكمن في "نظام التشغيل" (harness) وليس في النموذج: فلا يمكنك تجاوز المشكلة عبر الترقية، ولا يمكنك اكتشافها عبر المعايير القياسية، لأن القواعد التي تتآكل هي تلك الخاصة بنطاق النشر والتي لا تتضمنها المعايير القياسية أبداً. الخيط المشترك عبر التباينات الثلاثة هو أن تحلل الحوكمة يظل غير مرئي لأي أداة مراقبة موجهة نحو النموذج، لأنه ليس سلوكاً خاصاً بالنموذج، بل هو سلوك خاص بدورة حياة المعلومات، ودورة الحياة هذه تتبع نظام التشغيل.

تحلل الحوكمة في المؤسسات: سياسات لا يمكن ضغطها

هنا يأتي دور TrueFoundry، ولأول مرة، لا تعد أطروحة المورد مجرد استنتاج للورقة البحثية، بل هي استنتاج مدعوم ببنية تقنية. إذا كانت حوكمة الوكلاء تتطلب حوكمة كيفية نسيانهم للمعلومات، فإن أمام المؤسسة خيارين: جعل النسيان آمناً (تثبيت القيود، ملخصات التدقيق، تعزيز أداة التلخيص — وهو أمر ضروري وهش وغير مكتمل وفقاً لقيود المؤلفين أنفسهم)، أو جعل القيود غير قابلة للنسيان — أي وضعها في مكان لا يمكن لآلية النسيان الوصول إليه. الخيار الثاني له اسم: البنية التحتية. إن حاجز الحماية (guardrail) عند نقاط الربط المكونة — مدخلات/مخرجات النموذج اللغوي الكبير، وواجهة MCP قبل/بعد الأداة لمطابقة حركة البيانات — يقوم بتقييم قاعدة حدود البيانات ("لا عقود لعناوين خارجية") على إجراء الخروج الفعلي، في الجولة 3 وفي الجولة 3000، بشكل متطابق، لأن القاعدة مرتبطة بـ مسار الطلب، وليس بالنص الموجه (prompt)؛ فلا يوجد شيء في سجل المحادثة يمكن لعملية الضغط أن تحذفه. ينطبق نفس النقل على قائمة التحكم: يتم تحديد نطاق وصول الأداة حسب الهوية والمهمة في طبقة MCP بدلاً من الاعتماد على التوسل داخل السياق (التحكم في الوصول القائم على المهام TBAC)؛ ويتم تقييد الإنفاق بواسطة ميزانيات لا يمكن للوكيل تجاوزها عبر التلخيص؛ و"قناة المشغل الموثوقة خارج النطاق" التي يدعو إليها الباحثون هي بالضبط ما توفره البوابة باعتبارها — حيث يقوم المشغلون بتغيير السياسة على مستوى النظام، ويسري التغيير على كل طلب من تلك اللحظة، ولا يتدخل سياق أي وكيل، لذا فإن انتحال شخصية المشغل داخل سجل المحادثة لا يغير شيئاً. تكتمل هذه الوضعية بممارستين داعمتين. تصبح عملية الضغط نفسها حدثاً مرصوداً: تسجل تتبعات خطوات نظام التشغيل متى تم ضغط السجل، وهو ما يمثل الفرق بين "تغير سلوك الوكيل بشكل غير مبرر" و"تغير السلوك حول عملية ضغط" — وهو تشخيص قد يتطلب أدوات قياس على مستوى التطبيق أو مقارنة سجلات المحادثات، نظراً لأن التوثيق الحالي يكشف عن نمو السياق في التتبعات ولكن لا يوفر علامة مخصصة لحدث الضغط. وتتم ترقية حوكمة السياق بدلاً من إلغائها: فهي تظل القناة المناسبة للتوجيه — النبرة، التفضيلات، صياغة المهام، والأشياء التي ينبغي تطور مع المحادثة — فبينما ينتقل كل ما يتعلق بالامتثال أو نطاق التأثير إلى مستوى النظام، فإن تقسيم العمل الذي لدينا هندسة السياق و السياق الفوري يتطور من جانب البناء. وخلاصة البحث في جملة واحدة: ذاكرة وكيلك هي قناة عرضة لفقدان البيانات، لذا توقف عن تمرير سياسات الامتثال الخاصة بك من خلالها.

‍