تقديم التوجيه التلقائي على بوابة الذكاء الاصطناعي من TrueFoundry

لقد أضفنا للتو إمكانية جديدة إلى بوابة TrueFoundry للذكاء الاصطناعي. تعمل ميزة التوجيه التلقائي الجديدة على قراءة كل طلب وارد، وتصنيفه ضمن واحدة من ثلاث فئات تعقيد، ثم توجيهه إلى النموذج الأنسب المخصص لتلك الفئة.

لقد طورنا هذه الميزة لحل نمط متكرر نلاحظه في حركة مرور بيانات العملاء. عادةً ما تكون معظم الاستعلامات مباشرة ويمكن معالجتها بواسطة نماذج بسيطة، بينما لا يتطلب الأمر سوى عدد قليل من الاستعلامات المعقدة التي تحتاج إلى توجيهها إلى نموذج أكثر تطوراً. ولكن ما يحدث في الواقع هو تعيين نموذج واحد بشكل موحد للإجابة على كل استعلام، بغض النظر عن مدى تعقيده. ونتيجة لذلك، تواجه الشركات فواتير ضخمة وغير ضرورية في نهاية كل دورة. كما أن كتابة قواعد التوجيه برمجياً (Hard-coding) ليست حلاً قابلاً للتوسع، حيث ينتهي الأمر بكل فريق بتطبيق منطق التوجيه الخاص به دون أي توحيد للمعايير.

أصبحت هذه المهمة الآن من مسؤولية البوابة.

الانتقال من "تعظيم استهلاك الرموز" إلى "اقتصاديات الرموز"

على مدار العامين الماضيين، قاست معظم الفرق تبني الذكاء الاصطناعي بناءً على حجم الاستهلاك. وأصبح عدد الرموز (Tokens) المستهلكة معياراً للعمل المنجز. حتى أن بعض الشركات وضعت لوحات صدارة داخلية للاحتفاء بمن يستهلك أكبر قدر منها. ربما كان هذا منطقياً في المرحلة الأولى من تبني الذكاء الاصطناعي، عندما كان الهدف هو فهم مقدار العمل الذي يمكن إسناده فعلياً إلى النماذج. 

ثم جاءت الفواتير. في استطلاع أجرته مؤسسة IDC لصناع القرار في مجالات السحابة والذكاء الاصطناعي، تجاوزت 61% من المؤسسات ميزانيتها المخصصة للذكاء الاصطناعي السحابي لعام 2025. وكشف المدير التقني لشركة أوبر أن فريقه استنفد ميزانية الذكاء الاصطناعي السنوية بالكامل بحلول منتصف أبريل. أصبحت حلقات الاستنتاج أطول، ونوافذ السياق أكثر امتلاءً، وبدأت الوكلاء (Agents) في استدعاء النماذج نيابة عن أنفسهم آلاف المرات يومياً دون رقابة.

لذا تغيرت الأولويات. تم استبدال "تعظيم استهلاك الرموز" بـ "اقتصاديات الرموز"، وهي استراتيجية تحاول فيها الشركات وضع سقف لإنفاق الذكاء الاصطناعي دون إبطاء وتيرة التبني أو التجريب. وهذا يعني تركيزاً أكبر على مراقبة التكاليف في الوقت الفعلي، ونماذج استرداد التكاليف، وتخصيص النفقات لكل فريق، ووضع حدود للاستخدام. كل هذه ميزات مهمة، لكنها تساعد فقط في مراقبة الإنفاق أو تقييده، لا في تحسينه.

القرار الذي يحدد فاتورتك فعلياً يتم اتخاذه في وقت أبكر وبسرعة أكبر: أي نموذج سيتولى هذا الطلب. وهذا هو المستوى الذي تعمل فيه ميزة التوجيه التلقائي.

ما الذي تفعله ميزة التوجيه التلقائي فعلياً؟

ثلاث فئات تحت اسم نموذج واحد

يتم تكوين التوجيه التلقائي على نموذج افتراضي، وهو عبارة عن مدخل مسمى يستدعيه تطبيقك. هناك ثلاث فئات تعقيد يمكنك تعيين نماذج محددة لها.

بما أن تعيينات الفئات تعتمد على النموذج الافتراضي، يمكنك استبدال النموذج الموجود خلف أي فئة كلما توفر خيار أفضل أو أرخص، دون الحاجة إلى إجراء أي تغييرات في كود التطبيق. تصبح سياسة التوجيه كائناً إعدادياً له مالك، وسجل تغييرات، ومكان واحد لتعديله.

كيف يتم اختيار فئة التعقيد؟

هناك طريقتان يتم من خلالهما تصنيف كل استعلام ضمن واحدة من الفئات الثلاث:

1. التصنيف الاستدلالي (الخيار الافتراضي)

يقرأ المصنف الاستدلالي المطالبة، ويقيمها مقابل مجموعة ثابتة من الإشارات، ثم يختار المستوى المناسب. يعمل هذا المصنف ضمن عملية البوابة، لذا فهو لا يضيف أي زمن انتقال أو تكلفة، كما أنه حتمي بالكامل. 

يحدد مدى تعقيد الاستعلام بناءً على معايير معينة:

• الكود، أي الكلمات المفتاحية البرمجية في نص المستخدم أو النظام مثل function وclass وapi وdocker وsql وأسماء لغات البرمجة
• طلبات التفكير الصريحة مثل "خطوة بخطوة"، "فكر في الأمر"، "الإيجابيات والسلبيات"، "اشرح منطقك"
• المصطلحات التقنية مثل البنية (architecture)، والموزعة (distributed)، والتزامن (concurrency)، والإنتاجية (throughput)
• طول المطالبة، حيث تميل المطالبات الطويلة إلى احتواء مهام أكثر
• الهيكل متعدد الخطوات، مثل صياغة "أولاً، ثم" أو القوائم المرقمة
• الأسئلة المتعددة في آن واحد، أي وجود أكثر من ثلاث علامات استفهام في طلب واحد

2. تصنيف نموذج اللغة الكبير (LLM)

هنا، يمكنك اختيار نموذج التصنيف، والذي يجب أن يكون نموذج دردشة من الكتالوج وليس نموذجاً افتراضياً آخر، كما يمكنك تعيين مهلة زمنية بالملي ثانية. يجب عليك أيضاً تكوين ما سيحدث في حال فشل هذا الاستدعاء. يتوفر خياران احتياطيان: الاستدلالي، الذي يعيد القرار إلى الإشارات المدمجة، أو الثابت، الذي يرسل كل شيء إلى مستوى تحدده أنت. فشل المصنف لا يؤدي أبداً إلى فشل الطلب.

يأتي هذا مع مقايضتين. يعمل المصنف كاستدعاء للنموذج قبل الطلب، مما يضيف زمن انتقال. كما أنه يعد طلباً مدفوعاً عبر البوابة، ويُنسب إلى نفس المستأجر والموضوع الخاص بالطلب الذي أدى إلى تشغيله. 

القدرات البارزة للتوجيه التلقائي (Auto Routing)

يتجاوز التوجيه التلقائي قواعد التوجيه البسيطة، حيث يمنحك قدرات إضافية لضمان تحسين نفقات النماذج مع الحفاظ على الدقة:

• التصعيد والاحتياط: يقوم التوجيه التلقائي (Auto Routing) ببناء سلسلة مرتبة بالكامل، حيث يحاول الطلب المصنف ضمن مستوى معين تجربة أهداف ذلك المستوى أولاً، بالترتيب الذي حددته، ثم ينتقل تدريجياً إلى المستويات الأعلى. 
• تثبيت المحادثة: يتم تصنيف الجولة الأولى بشكل طبيعي، وبمجرد أن يجيب أحد الأهداف بنجاح، تسجل البوابة مستواه. يتم تصنيف الجولات اللاحقة مرة أخرى؛ فإذا كانت الجولة أكثر صعوبة، تنتقل المحادثة إلى مستوى أعلى، أما إذا كانت أسهل، فيتم اعتماد المستوى الأعلى الحالي.
• القابلية للملاحظة: يقوم ai_gateway_complexity_routing_decisions_total بإحصاء كل قرار، مع تصنيفه حسب المستوى الذي تم تحديده والمستوى الذي تم حله فعلياً. يمكنك عرض مزيج المستويات على الفريق المالي، وإطلاع الفريق الهندسي على معدل التصعيد، وتحديد طلب معين لتوضيح سبب توجيهه إلى وجهة محددة.

ما تظهره نتائج الاختبارات المعيارية

لقد قمنا بتشغيل التوجيه التلقائي مقابل خط أساس يرسل كل طلب إلى Claude Opus 5، عبر 16 مجموعة بيانات عامة وحوالي 4,700 استدعاء، باستخدام مصنف استدلالي مجاني وتدرج هرمي يضم Haiku وSonnet وOpus. التقييم حتمي: يتم تشغيل الكود المولد مقابل اختبارات الوحدة لكل معيار في بيئة معزولة، بينما تتم مطابقة إجابات الرياضيات والاختيارات المتعددة مع مفاتيح الإجابة.

في كل حالة، كانت هناك وفورات كبيرة في التكاليف، دون أي مساس بالجودة.

للاطلاع على المنهجية الكاملة، وتفاصيل كل مجموعة بيانات، وتحليل حركة المرور في بيئة الإنتاج، اقرأ التحليل الهندسي المتعمق: كيف خفضنا تكاليف النماذج اللغوية الكبيرة بمقدار الثلثين دون فقدان الجودة.

البدء

يعمل التوجيه التلقائي على نموذج افتراضي. انتقل إلى بوابة الذكاء الاصطناعي (AI Gateway) → النماذج (Models) → النموذج الافتراضي (Virtual Model)، واختر التعقيد (Complexity) ضمن نوع التوجيه، وحدد استراتيجية التصنيف، وعيّن هدفاً لكل مستوى ترغب في خدمته. بعد ذلك، وجه تطبيقك إلى اسم النموذج الافتراضي وجربه باستخدام مطالبات ذات مستويات تعقيد متفاوتة في بيئة الاختبار (playground).