موجه LLM: المعاني الثلاثة الحقيقية لهذا المصطلح

لماذا يعد المصطلح مربكاً

اسأل ثلاثة فرق عما يفعله موجه LLM لديهم وستحصل على ثلاث إجابات لا تتداخل مطلقاً. أحد الفرق يشغل GPT-4o على كل من Azure و OpenAI ويريد أن تتجاوز الحركة أي انقطاع في الخدمة. وفريق آخر استلم فاتورته ويريد تقديم 70% من الطلبات السهلة باستخدام نموذج أرخص. وفريق ثالث لديه شركة تابعة في ألمانيا ويجب ألا تغادر مطالباتها الاتحاد الأوروبي. تحتاجه الفرق الثلاثة لتهيئات مختلفة، واثنان من الثلاثة لن يستفيدا شيئاً مما بناه الآخرون.

التصنيف يستحق التوضيح بدقة، لأنه ما يتجاهله معظم محتوى توجيه llm:

الدليل هو ما يقرأه كل نوع لاتخاذ القرار. موازنة الحمل تقرأ حالة البنية التحتية، اختيار النموذج يقرأ متن الطلب، وتوجيه البيانات يقرأ البيانات الوصفية الهوية. ثلاثة مدخلات، وبالتالي ثلاث ميزات — وهي تتكامل بدلاً من أن تتنافس.

النوع الأول: موازنة الحمل عبر أهداف قابلة للاستبدال

هذا هو المعنى الأقدم والأقل إثارة للاهتمام للمصطلح، ولهذا السبب هو الأكثر موثوقية أيضاً. لديك عدة طرق للوصول إلى نفس القدرة — مثل azure/gpt-4o و openai/gpt-4o، أو انتشارين في منطقتين مختلفين — وتريد توزيع الطلبات بينها حتى لا يؤدي فشل واحد إلى تعطل خدمتك.

الفرضية هي أن كل هدف متكافئ من حيث الصحة والنتائج. يمكن لأي منها خدمة الطلب؛ أنت تختار بناءً على التوفر، السعة، والسرعة. هذا ما يجعل موازنة حمل llm آمنة للأتمتة. كما أن زمن الانتقال للمزود ليس مستقراً بدرجة تسمح بتجاهله — فهو يختلف حسب النموذج، المنطقة، المزود، والساعة:

تقوم TrueFoundry بتهيئة هذا على نموذج افتراضي — اسم تطبيقه برمجياً، مثل my-group/production-chat، مع استراتيجية توجيه واحدة وقائمة بالأهداف الحقيقية خلفه. هناك ثلاث استراتيجيات تندرج تحت موازنة الحمل:

هناك تفصيلان يفصلان هذه الاستراتيجيات عن التوزيع التناوبي البسيط (round robin).

التوجيه القائم على زمن الانتقال يستمر بشكل ثابت بالتصميم (sticky). تقيس البوابة الوقت لكل رمز مخرج لكل هدف على مدار آخر 20 دقيقة، ثم تختار هدفاً لكل متصل يظل ثابتاً لفترة زمنية مدتها 10 دقائق. عبر العديد من المتصلين، تتوزع الحركة بنسبة عكسية مع زمن الانتقال، ولكن أي متصل واحد يستمر في توجيهه لنفس الهدف لفترة كافية للاستفادة من التخزين المؤقت للمطالبات (prompt caching). لا تقوم بتهيئة هذا؛ فهكذا تعمل الاستراتيجية تلقائياً.

تتم متابعة الحالة الصحية بشكل مستمر. الهدف الذي يرجع أخطاء 5xx، 429، 401، أو 403 مرتين في نافذة زمنية متحركة مدتها دقيقتان يتم تنكيره كغير سليم ونقله إلى نهاية القائمة، ويتعافى بمجرد انقضاء هذه الأخطاء. يضيف التوجيه القائم على الأولوية حد SLA اختياري: حد زمني لكل رمز مخرج أو وقت للرمز الأول يقلل من رتبة الهدف عندما يتجاوزه المتوسط المتحرك لثلاث دقائق.

يمكن أيضاً كتابة القواعد على مستوى المستأجر كـ YAML، ويتم تقييمها بالترتيب، حيث يفوز أول تطابق:

سلسلة أولوية تتكيف مع الفشل عند تجاوز حدود المعدل (rate limits):

هذا الـ YAML يتواجد تحت AI Gateway ← Configs ← Routing Config ويمكن حفظه في Git وتطبيقه باستخدام tfy apply، بحيث تخضع تغييرات التوجيه لمراجعة PR. تنبيه واحد: بالنسبة للإعدادات الجديدة، توصي TrueFoundry باستخدام النماذج الافتراضية بدلاً من ذلك. يظل الـ YAML يعمل للنشرات الحالية، لكن النماذج الافتراضية تمنح ملكية وتحكماً في الوصول أكثر وضوحاً.

النوع الثاني: اختيار النموذج، أو التوجيه حسب احتياج الطلب

هذا هو المعنى الذي يجعل الناس يبحثون عن أفضل موجه llm، وهو مشكلة مختلفة تماماً. الأهداف هنا ليست قابلة للاستبدال: نموذج رخيص ونموذج رائد يجيبان كلاهما، ولكن ليس بنفس الجودة. الموجه يتخذ حكماً على الجودة، وليس على السعة.

من الصعب الجدال في الجانب الاقتصادي. حركة المرور في بيئة الإنتاج ليست متساوية في الصعوبة — التحية، البحث عن حقيقة، وطلب تصميم محدد معدل موزع (distributed rate limiter) تصل جميعها إلى نفس النقطة النهائية (endpoint)، وخدمة الثلاثة باستخدام أكثر النماذج كفاءة تعني دفع أسعار الفئة الأعلى لأجل الأغلبية السهلة من الطلبات.

يقوم التوجيه التلقائي (Auto Routing) في TrueFoundry بتصنيف كل طلب إلى واحد من ثلاثة مستويات وإرساله إلى الهدف الذي قمت بتهيئته لذك المستوى. يستمر تطبيقك برمجياً في استدعاء اسم نموذج افتراضي واحد.

تختار Complexity كنوع التوجيه عند إنشاء النموذج الافتراضي:

ثم اختر كيفية تصنيف الطلبات. Heuristic (الاستكشافي) هو الخيار الافتراضي: يتم داخل العملية، مجاني، بدون إضافة زمن انتقال، وحتمي تماماً. يقيس مجموعة ثابته من الإشارات — كلمات الكود المفتاحية، عبارات التفكير الاستنتاجي مثل "خطوة بخطوة"، المفردات التقنية، طول المطالبة، والتركيب متعدد الخطوات. عبارتا تفكير استنتاجي متميزتان توجهان الطلب دائماً إلى complex، بغض النظر عن أي تطابق آخر.

أما مصنف LLM (LLM classifier) فيستدعي نموذجاً صغيراً وسريعاً بدلاً من ذلك، لحركة المرور التي لا تتضح صعوبتها من المفردات:

كن واضحاً بشأن تلك التكلفة. كل استدعاء للمصنف هو طلب بوابة قابل للفتورة. يظهر في سجلاتك، وتُحسب رموزه (tokens) لنفس المستأجر والموضوع الخاص بالطلب الأصلي، ويضيف قفزة قبل استدعاء النموذج الحقيقي. الخيار الاستكشافي مجاني ولكنه عام؛ المصنف أكثر دقة في المطالبات الغامضة ولكنك تدفع ثمنه مرتين، بالسنتات وبالمللي ثانية. تتطلب استراتيجية fallback_strategy حتى لا يؤدي انتهاء مهلة المصنف إلى فشل الطلب.

أخيراً، قم بتعيين نموذج لكل مستوى:

ما تقوله الأرقام فعلياً

قامت TrueFoundry بقياس التوجيه التلقائي مقارنة بإرسال كل طلب إلى نموذج واحد من الفئة الأولى. تم تقييم الإجابات بشكل حتمي — تشغيل الكود المنشأ مقابل اختبارات الوحدة، ومطابقة الرياضيات والخيارات المتعددة مع مفاتيح الإجابات.

انخفض متوسط زمن الانتقال من نحو 7.6 ثانية إلى 4.0 ثانية، نظرًا لأن معظم الطلبات تتجاوز نموذج التفكير الاستنتاجي من الفئة العليا. [تحقق — أرقام زمن الانتقال ليست في الوثائق العامة، والتي تذكر فقط أن التوجيه التلقائي كان "أسرع في المتوسط"].

اقرأ نسبة 98% بصدق. إنها ليست ادعاءً بأن التوجيه للمستويات الأدنى مجاني. إنها الحجم المقاس لما تتخلى عنه: اثنان بالمائة من معدل النجاح المقيم، تم شراؤها بنحو ثلثي الفاتورة. في بعض أسباب العمل تعد هذه صفقة رابحة وفي أسباب أخرى ليست كذلك، ولهذا السبب تم نشر الرقم بدلاً من تقريبه إلى "لا يوجد فقدان في الجودة". مقارنة بنموذج رائد من الجيل السابق، تقترب النسبة من 50% توفير، كما أن الخيار الاستكشافي المجاني يقلل من الدقة في المطالبات القصيرة والصعبة في نفس الوقت. تم القياس في أغسطس 2026.

النوع الثالث: توجيه البيانات، المكان المسموح للطلب بالذهاب إليه

المعنى الثالث لا علاقة له بالتكلفة أو معدل الإنتاجية. الطلب القادم من شركة تابعة في ألمانيا قد يحتاج إلى الخدمة بواسطة نشر داخل الاتحاد الأوروبي، وسجله قد يحتاج إلى البقاء في حاوية (bucket) داخل الاتحاد الأوروبي. لا توجد كمية من ضبط الأوزان يمكنها التعبير عن ذلك. هناك أمران يُطلق عليهما توجيه البيانات، وتنفذهما TrueFoundry بميزات مختلفة:

بالنسبة للمعالجة، تحمل الأهداف كتلة metadata_match، ويظل الهدف مؤهلاً فقط عندما تتطابق كل زوج مع البيانات الوصفية المحلولة للطلب. على بوابة SaaS، يتم وسم كل طلب تلقائياً بـ tfy_gateway_region و tfy_gateway_zone من أي من المناطق الـ 12+ التي قامت بمعالجته، لذلك لا يرسل العميل أي شيء:

يحدث التصفية قبل حساب ترتيب موازنة الحمل، بحيث لا يشارك الهدف غير المتطابق أبداً. هذا الترتيب هو الهدف الأساسي: توجيه البيانات يحدد مجموعة المرشحين، وموازنة الحمل تختار من بينها.

بالنسبة للتخزين، هناك صفحة Data Routing منفصلة تحت AI Gateway ← Controls ← Data Routing:

الوجهات المخصصة هي ميزة في خطة المؤسسات (Enterprise) وتوجه التتبعات (traces) بناءً على شروط — بيانات وصفية يحددها المستخدم مثل metadata.app، أو من أنشأ الطلب. يتم تقييم الوجهات من الأعلى إلى الأسفل، وأول تطابق يفوز، لذا احتفظ بالقواعد المحددة فوق القواعد العامة:

كل وجهة إما أن تكون تخزيناً مديراً بواسطة مستوى التحكم، مع منطقة قابلة للتحديد على SaaS لإقامة البيانات، أو حاوية S3، GCS، أو Azure Blob الخاصة بك:

هناك حدان يجب التصميم بناءً عليهما. المقاييس تذهب دائماً إلى الوجهة الافتراضية وتُحفظ للأبد — فقط التتبعات يمكن توجيهها بشكل مخصص. وتغيير تهيئة التخزين لا ينقل أي شيء: البيانات الحالية لا تُحذف، ولكن يصبح الوصول إليها غير ممكن من الموقع الجديد.

أين تخطئ الفرق في هذا المجال

حل المشكلة الخاطئة. الفريق القلق بشأن الإنفاق يبني تقسيماً موزوماً عبر ثلاثة مزودين. الأوزان لا تعرف أي الطلبات صعبة، لذا فإن الفاتورة تتغير بشكل طفيف فقط. والفريق القلق بشأن انقطاع الخدمة يفعل توجيه التعقيد ويفاجأ عندما يستمر حادث لدى المزود في إسقاط خدمته. حدد المشكلة قبل اختيار الآلية.

افتراض أن تخفيض رتبة الحالة الصحية عام. تحت توجيه الوزن، الأولوية، وزمن الانتقال، يتم تخفيض رتبة الهدف الفاشل إلى نهاية القائمة. أما تحت التوجيه التلقائي (Auto Routing) فلا يتم ذلك — ترتيب الهدف يكون دائماً حسب ترتيب المستوى، وسلسلة التصعيد هي مسار التعافي من الفشل. استراتيجيات إعادة المحاولة لكل هدف، رموز حالة الاحتياطي، حدود المعدل، والميزانيات تظل تطبق؛ بينما سلوك فترة التهدئة (cooldown) لا يطبق.

التعامل مع المصنف على أنه مجاني. الخيار الاستكشافي مجاني بالفعل. أما مصنف LLM فهو استدعاء نموذج ثانٍ في كل دورة غير مثبتة، ويتم حزمه وتتبعه مثل أي طلب آخر. غالباً ما يستحق ذلك — ولكنه ينتمي إلى نموذج التكلفة لديك، وليس إلى فاتورتك كمفاجأة.

التوجيه بدون حد أقصى للإنفاق. التوجيه المراعى للتكلفة يخفض متوسط التكلفة لكل طلب؛ ولكنه لا يضع حداً لأجمالي الإنفاق. حلقة وكيل مفرطة واحدة تبطل توفير ربع كامل. توجيه النموذج هو المنحدر، وقواعد الميزانية هي السقف، وأنت بحاجة إلى كليهما.

هل تريد رؤية توجيه التعقيد على حركة المرور الخاصة بك؟

أنشئ نموذجاً افتراضياً، ووجّه ثلاثة مستويات إلى ثلاثة نماذج، وقارن الفاتورة بعد أسبوع.

ابداً مجاناً

مثال عملي

تطبيق دعم يرسل كل شيء إلى نموذج رائد. الفاتورة غير مريحة، وكان لدى أحد المزودين أسبوع سيئ الشهر الماضي، والشؤون القانونية تسأل أين يتم معالجة المحادثات الخاصة بالعملاء في الاتحاد الأوروبي. جميع الأنواع الثلاثة في تطبيق واحد.

الخطوة الأولى: اختيار النموذج. أنشئ نموذجاً افتراضياً support/assistant بتوجيه Complexity. وجّه simple إلى نموذج صغير وسريع، medium إلى نموذج متوسط، complex إلى النموذج الرائد، واترك المصنف الاستكشافي مفعلاً. يغير التطبيق سلسلة نصية واحدة فقط — اسم النموذج.

سلوك الدورات المتعددة لا يحتاج إلى تهيئة. كل دورة يتم تصنيفها، والتثبيت يتصاعد للأعلى فقط: إذا كانت الدورة الرابعة أصعب، تنتقل المحادثة للأعلى؛ وإذا كانت الدورة الخامسة "شكراً" تظل كما هي. التثبيت يصمد لـ 10 دقائق من الخمول ويتجدد مع كل دورة. بمجرد وصول المحادثة إلى complex، تتجاوز الدورات اللاحقة التصنيف تماماً.

الخطوة الثانية: موازنة الحمل داخل المستوى. أعطِ المستوى المعقد هدفاً ثانياً لدى مزود مختلف. يتم محاولة الأهداف في نفس المستوى حسب ترتيب الإعلان قبل التصعيد، بحيث يكون للنموذج الرائد نظير للتحويل إليه عند الفشل. تتيح لوحة التحكم هدفاً واحداً لكل مستوى، لذا يتطلب هذا الشكل استخدام tfy apply أو الـ API.

الخطوة الثالثة: توجيه البيانات. أضف metadata_match: { tfy_gateway_region: EU } إلى هدف منشور في الاتحاد الأوروبي مع خيار شامل تحته، ثم وجهة Data Routing ترسل التتبعات التي تملك metadata.region كـ eu إلى حاوية في الاتحاد الأوروبي.

الخطوة الرابعة: السقف. قاعدة ميزانية محددة لنطاق معرف النموذج الافتراضي تضع حداً للإنفاق بغض النظر عن كيفية تصرف التوجيه:

مرشحات نطاق قاعدة الميزانية مع شروط الموضوعات، النماذج، والبيانات الوصفية

مثل هذه القاعدة تطابق كل من معرف النموذج الافتراضي والهدف الملموس الذي يؤول إليه، ويتصرف الاثنان بشكل مختلف تماماً. الميزانية المتجاوزة لـ النموذج الافتراضي في وضع الإنفاذ تحظر الطلب بالكامل قبل تشغيل أي خلفية، ولا يتم محاولة الأهداف الاحتياطية. بينما الميزانية المتجاوزة لـ الهدف الملموس تتجاوز هذا الهدف فقط، ويتحول النموذج الافتراضي إلى هدف آخر. نفس الميزة، ولكن بنطاق تأثير عكسي.

الخطوة الخامسة: التحقق. كل استجابة تحمل x-tfy-applied-rules مع المستوى الذي تم خدمته، السبب، والسلسلة المرتبة بالكامل، بالإضافة إلى x-tfy-resolved-model الذي يحدد اسم النموذج الذي أجاب. العداد ai_gateway_complexity_routing_decisions_total يتوزع حسب decided_tier، resolved_tier، و cause — اضرب حصة الحركة لكل مستوى في فارق السعر للحصول على توفيرك الحقيقي، وليس مجرد رقم كتالوج.

هل أنت مستعد لقياس مزيج المستويات الخاص بك؟

وجّه جزءاً من حركة المرور عبر نموذج افتراضي واقرأ الأرقام من سجلاتك الخاصة.

ابدأ مجاناً على TrueFoundry

نقاط هامة يجب معرفتها

التوجيه التلقائي (Auto Routing) متاح للنماذج الافتراضية فقط. ليس نوع قاعدة صالحاً في YAML التوجيه على مستوى المستأجر، ويتم رفضه لأنواع نماذج التضمين (embedding)، الصور، الصوت، إعادة الترتيب (rerank)، والإشراف (moderation) — يعمل فقط مع محادثات chat، الإكمال (completion)، والردود. القوائم المختلطة تفشل أيضاً: الإعلان عن كل من chat و embedding يتم رفضه عند الحفظ.

التصعيد يشمل مستويات لم تقم بتهيئتها أبداً. مع وجود أهداف simple و complex فقط، أي شيء يتم تصنيفه كـ medium يتصاعد إلى complex ويتضمن الهيدر تقريراً بذلك. هذا إعداد مدعوم بمستويين — ولكن إذا استمر انحراف decided_tier و resolved_tier لسبب آخر غير session_pin، فإن هناك مستواً مفقوداً أو غير مهيأ بشكل صحيح.

المصنف يقرأ رسالتين فقط. آخر رسالة من المستخدم وآخر رسالة من النظام أو المطور، بحد أقصى 8,000 و 2,000 حرف. يتم تجاهل الدورات السابقة، ردود المساعد، ورسائل الأدوات. الاتساق عبر المحادثة يأتي من التثبيت (pinning)، وليس من قراءة السجل.

قراءات ذات صلة

• ما هو موجه LLM؟ دليل كامل — النسخة التمهيدية
• OpenRouter مقابل AI Gateway — أين ينتهي الموجه وتبدأ البوابة
• Bifrost مقابل LiteLLM — مقارنة طبقات التوجيه مفتوحة المصدر
• أفضل بدائل OpenRouter — خيارات التوجيه مع تحكم أعمق
• بناء إطار عمل حوكمة الذكاء الاصطناعي — طبقة السياسات حول التوجيه

الخلاصة

يبدو "موجه LLM" كفئة غامضة لأنه عبارة عن ثلاث فئات ترتدي تسمية واحدة. موازنة الحمل هي أداة توفر والأهداف قابلة للاستبدال فيها. اختيار النموذج هو أداة تكلفة والأهداف قطعياً ليست كذلك. توجيه البيانات هو أداة امتثال، وهو يحدد المجموعة قبل أن تحصل أي من الأداتين الأخرى على صوت.

عند الفصل بينها، كل منها يعد قراراً قصيراً. هل تفقد الطلبات بسبب الانقطاعات، أم تدفع الكثير مقابل الطلبات السهلة، أم تجيب على سؤال حول أين تذهب البيانات؟ الأولى تحتاج سلسلة أولوية، الثانية تحتاج مستويات تعقيد، والثالثة تحتاج مطابقة بيانات وصفية ووجهة تخزين. معظم الفرق تحتاج إحداها بشدة والأخرى في النهاية.

وعندما تلجأ إلى خيار التكلفة، خذ الرقم المنشور بقيمته الحقيقية في الاتجاهين. توفير تسعة وستين بالمائة أمر حقيقي. وكذلك النسبة البالغة اثنين بالمائة التي تكلفتها من الجودة.

قم بتهيئة أول موجه LLM لك على TrueFoundry

البداية مجانية