LiteLLM مقابل agentgateway: مقارنة بين بوابتي ذكاء اصطناعي مفتوحتي المصدر
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
تبدو المقارنة بين LiteLLM وagentgateway متكافئة على الورق. فكلاهما مفتوح المصدر، ومستضيف ذاتيًا، ويكشف عن نقطة نهاية متوافقة مع OpenAI أمام العديد من مزودي النماذج، وكلاهما يتعامل الآن مع استدعاءات أدوات MCP وحركة مرور الوكلاء (Agent-to-Agent) بالإضافة إلى استدعاءات النماذج. ومع ذلك، فقد نشأ كل منهما من بيئة مختلفة تمامًا. LiteLLM هو وكيل بلغة Python من BerriAI نَمَا من مكتبة برمجة (SDK) شهيرة، وله أطول قائمة ميزات وأكبر مجتمع في هذه الفئة. أما agentgateway فهو وكيل بلغة Rust كتبته Solo.io من الصفر وسلمته إلى Linux Foundation، وهو أصغر وأسرع، وذو تركيز أضيق. إذا كنت تبحث عن بدائل لـ LiteLLM، فهو أحد الخيارات القليلة التي يمكنها منافسة LiteLLM في ميزات التحكم بالوكلاء.
لقد قمنا بتشغيل كلا النظامين. اختبر فريقنا إصدار agentgateway مفتوح المصدر بشكل عملي (الإصدار v1.5.0، مع إعادة التحقق من النتائج الرئيسية على v1.6.0) وقام بتشغيل LiteLLM عبر نفس بيئة الاختبار القياسي (Benchmark). ثم راجعنا الادعاءات الواردة في هذا المقال مقابل وثائق كل مشروع في نوفمبر 2026، حيث كانت الإصدارات الحالية هي agentgateway v1.7.0 وLiteLLM v1.106.6.
LiteLLM: نظرة عامة
بدأ LiteLLM مسيرته داخل BerriAI، وهي شركة مدعومة من Y Combinator، وتم طرحه كرمز مفتوح المصدر في أغسطس 2023. يتعرف عليه معظم المستخدمين أولاً كـ Python SDK ثم يقومون بتشغيل LiteLLM proxy كبوابة مشتركة. يملك المشروع الآن أكثر من 61,000 نجمة على GitHub ومستخدمين بارزين مثل Netflix وOkta وNVIDIA. تدرج الوثائق أكثر من 100 مزود (تذكر الصفحة الرئيسية أكثر من 140)، ويمكنك التوجيه إلى النماذج المستضافة ذاتيًا مثل vLLM أو Ollama جنبًا إلى جنب مع APIs التجارية.
تغطي النسخة المجانية الكثير من الاحتياجات. حيث تحصل على مفاتيح افتراضية، وميزانيات، وحدود لمعدل الاستخدام (Rate limits) على مستوى المفتاح، والمستخدم، والفريق، والمؤسسة، والمستخدم النهائي، والوسوم، بالإضافة إلى التخزين المؤقت المطابق والدلالي (Semantic caching)، ونصف دزينة من استراتيجيات التوجيه، وآليات الاستبدال (Fallbacks)، ومقاييس Prometheus، والعشرات من تكاملات تسجيل البيانات (Logging). كما يمكن لبوابة LiteLLM MCP تقييد الوصول حتى مستوى الأدوات الفردية وحتى المعلمات الفردية للأداة، وتم شحن بوابة وكيل A2A منذ الإصدار v1.80.8.
التكلفة الحقيقية تكمن في العمليات التشغيلية. فالوكيل عبارة عن تطبيق Python (FastAPI) يحتاج إلى Postgres للمفاتيح وواجهة الإدارة ومتابعة الإنفاق، وإلى Redis بمجرد تشغيل أكثر من مثيل واحد. تعمل LiteLLM على نقل مسار التجهيز السريع إلى Rust، وتعلن صفحتها الرئيسية الآن عن بوابة Rust، ولكن الوثائق لا تزال تصف نواة Rust بأنها نسخة تجريبية تغطي مسارات قليلة، مع استهداف تغطية مسار Anthropic Messages الكامل في ديسمبر 2026. تتطلب ميزات المؤسسات مثل SSO لأكثر من خمسة مستخدمين، وSCIM، وسجلات التدقيق، والمصادقة عبر JWT لمجموعات العمل ترخيصًا مدفوعًا.
agentgateway: نظرة عامة
تُعد agentgateway بديلاً من Solo.io لبوابتها القديمة Gloo AI Gateway، حيث كُتبت بلغة Rust بدلاً من بنائها على Envoy. وهي مرخصة بموجب Apache 2.0 وتستضيفها مؤسسة Agentic AI Foundation التابعة لـ Linux Foundation، وتبيع Solo إصدارًا مدفوعًا يسمى Solo Enterprise for agentgateway. تعمل البوابة كملف تنفيذي فردي يقرأ ملف YAML واحدًا، أو كحاوية (Container)، أو على Kubernetes مع وحدة التحكم الخاصة بها، حيث تطبق Gateway API. وهي لا تحتاج إلى قاعدة بيانات لتوجيه حركة المرور. تمكن فريقنا من تشغيلها لخدمة الطلبات في أقل من 11 ثانية من البداية الباردة (Cold start)، مع استهلاك حوالي 18 ميجابايت من الذاكرة في وضع الخمول.
تدير البوابة استدعاءات LLM وحركة مرور MCP واستدعاءات A2A بنموذج سياسة واحد. وتعد المصادقة والترخيص لـ MCP أقوى ميزاتها: حيث تحدد قواعد CEL الأدوات التي يمكن لكل متصل استخدامها، وتعمل البوابة على تصفية قائمة الأدوات بحيث لا يرى الوكيل إلا ما هو مصرح له باستدعائه. يقوم الإصدار المجاني أيضًا بالتحقق من صحة مفاتيح JWT مقابل مزود الهوية لديك، ويحدد النماذج لكل مفتاح، ويفرض ميزانيات لكل مفتاح في البناء المستقل، ويحجب البيانات الحساسة مثل عناوين البريد الإلكتروني وأرقام البطاقات قبل وصول المطالبة (Prompt) إلى المزود. وتعد حدود معدل الاستخدام على مستوى الأسطول، ومورد الميزانية المشترك، وواجهة إدارة التكاليف ميزات مدفوعة للمؤسسات. تغطي مراجعتنا لـ agentgateway هذه التفاصيل بعمق.
مقارنة مباشرة
يعكس عمود LiteLLM وثائق LiteLLM واختباراتنا القياسية. بينما يعكس عمود agentgateway تجاربنا العملية ووثائق Solo للإصدار v1.7.0. تم التحقق من كلاهما في نوفمبر 2026.
نقاط قوة LiteLLM
يقوم بتخزين الاستجابات مؤقتًا. التخزين المؤقت المطابق والدلالي مجاني، مع دعم خوادم خلفية مثل Redis وValkey وQdrant وS3 وغيرها. لا تحتوي agentgateway على تخزين مؤقت مدمج للاستجابات، لذا فإن أعباء العمل المتكررة مثل روبوتات الدعم تدفع الثمن كاملاً لجميع الطلبات ما لم تقم بإضافة طبقة تخزين مؤقت بنفسك.
قائمة ميزاته أطول في معظم الجوانب. يدعم LiteLLM مزودين أكثر، واستراتيجيات توجيه أكثر (بما في ذلك التوجيه القائم على التكلفة وزمن الاستجابة)، ونطاقات ميزانية أكثر، وتكاملات إمكانية ملاحظة أكثر مقارنة بـ agentgateway. إذا كانت هناك ميزة موجودة في هذه الفئة، فمن المحتمل أن تجد لها إعدادًا في LiteLLM.
حدوده تعمل عبر المثيلات مجانًا. نظرًا لأن LiteLLM يحفظ الحالة في Postgres وRedis، ت Snap الميزانيات وحدود معدل الاستخدام عبر كل نسخة مكررة دون الحاجة إلى فئة مدفوعة. بينما تتوقف ضوابط agentgateway المجانية عند المثيل الواحد.
أذونات MCP لديه أكثر عمقًا بمستوى واحد. يمكن لـ LiteLLM السماح بأداة معينة ولكن حظر معلمات محددة فيها، ويفرز الأذونات عبر ستة مستويات للهوية. بينما تعمل قواعد agentgateway على مستوى الأداة ككل.
يمتلك مجتمعًا أكبر. أكثر من 61,000 نجمة، وإصدارات أسبوعية، ومستخدمون معروفون تعني أن معظم المشكلات التي قد تواجهها قد واجهها شخص آخر بالفعل وتم حلها. يمكنك أيضًا الحصول على مفتاح تجريبي لنظام المؤسسات لمدة 30 يومًا دون الحاجة للتحدث مع المبيعات، وهو ما لا توفره Solo.
نقاط قوة agentgateway
أسرع وأصغر بكثير. في نفس إعداد الاختبار ذي المعالج الافتراضي الواحد (1 vCPU)، أضافت agentgateway حوالي 2 إلى 5 ميللي ثانية لكل طلب، بينما أضاف LiteLLM من 12 إلى 15 ميللي ثانية عند الحمل الخفيف وبدأ في الانتظار بالدور (Queueing) قبل الوصول إلى 50 طلبًا في الثانية. تستهلك agentgateway حوالي 18 ميجابايت من الذاكرة في وضع الخمول؛ بينما استهلك LiteLLM حوالي 1.2 جيجابايت عند 10 طلبات في الثانية.
متطلبات تشغيل أقل. ملف تنفيذي واحد، بدون قاعدة بيانات وبدون Redis يكفي لتشغيل بوابة عاملة. بينما يتكون إعداد الإنتاج لـ LiteLLM من موازن تحميل (Load balancer)، وPostgres، وRedis، ومخزن أسرار، وهو ما يعد بنية سحابية اعتيادية ولكنه يتطلب جهدًا أكبر بكثير من حاوية واحدة.
ميزات أمان أكثر مجانًا. التحقق من صحة JWT مقابل مزود الهوية وحجب البيانات الشخصية الحساسة (PII) هي جزء من البناء مفتوح المصدر. في LiteLLM، تطلب مصادقة JWT وحواجز الحماية لكل فريق ترخيص Enterprise.
المشروع يتبع لمؤسسة غير ربحية. كود agentgateway مرخص بـ Apache 2.0 تحت مشروع يتبع لـ Linux Foundation، لذا فهو لا يخضع لخطط شركة واحدة. LiteLLM مرخص بـ MIT ولكن معظم المطورين هم موظفو BerriAI، ومجلد المؤسسات هو ملكية خاصة.
يتوافق مع Kubernetes بشكل أصيل (Native). تطبق agentgateway الـ Gateway API مع وحدة التحكم وCRDs الخاصة بها، لذا يبدو تكوين التوجيه مثل أي مورد آخر في الـ Cluster. بينما توفر LiteLLM مخططات Helm ولكن دون Operator أو CRDs.
الأداء
قمنا بتشغيل كلا البوابتين عبر نفس بيئة الاختبار: حاوية واحدة بحد أقصى 1 vCPU و2 جيجابايت ذاكرة، ومزود وهمي محلي باستجابة ثابته تبلغ 50 ميللي ثانية، وتم قياس جميع الأرقام مقارنة باستدعاء المزود الوهمي مباشرة. تنبيه بسيط في صالح LiteLLM: تحدد وثائقه حجم مثيلات الإنتاج بـ 4 vCPU و8 جيجابايت، لذا فإن 1 vCPU تُعتبر مساحة ضيقة لوكيل مكتوب بـ Python.
ينشر كلا المزودين أرقامهما الخاصة أيضًا. تُظهر صفحة الاختبار القياسي لـ LiteLLM تسجيل 1,170 طلبًا في الثانية مع تأخير إضافي p95 يبلغ 8 ميللي ثانية عبر أربع مثيلات بقدرة 4 vCPU. بينما نشرت Solo اختبارات قياسية مباشرة ضد LiteLLM تُظهر 0.44 ميللي ثانية مقابل 30.6 ميللي ثانية عند p99 وبحجم طلبات ثابت 3,000 طلب/ثانية، مع استهلاك 13 ميبيبايت من الذاكرة مقابل 11.7 جيبيبايت. هذه الاختبارات يجريها المزودون ضد خوادم وهمية، لذا يُفضل أخذها كمؤشرات اتجاهية بدلاً من كونها أدلة قاطعة. وتشير أرقامنا الخاصة إلى نفس الاتجاه.
هل يهم هذا الفارق؟ بالنسبة لتطبيق محادثة يرسل طلبات قليلة في الثانية، غالبًا لا يهم: فاستدعاء النموذج يستغرق مئات الميللي ثانية، و10 ميللي ثانية من وقت البوابة تختفي ضمن ذلك. ولكن هذا يغدو مهمًا عندما تقوم بتشغيل وكلاء ذكاء اصطناعي يجرون استدعاءات متكررة في حلقة مغلقة، أو عندما تدفع تكلفة المثيلات الإضافية التي يحتاجها LiteLLM للتعامل مع نفس الحمل.
الأسعار
كلاهما مجاني للاستضافة الذاتية. الإصدار مفتوح المصدر من LiteLLM لا يحتوي على حد أقصى للاستخدام؛ ولكنك تدفع بمجرد حاجتك لـ SSO لأكثر من 5 مستخدمين مسؤولين، أو SCIM، أو سجلات التدقيق، أو مصادقة JWT، أو حواجز الحماية لكل فريق، أو فصل واجهة الإدارة عن العمال (Workers). ترخيص LiteLLM Enterprise عبارة عن عقد سنوي يتحدد حسابه بناءً على حجم طلبات البوابة، بدون سعر معلن، ويمكنك بدء فترة تجريبية لمدة 30 يومًا بمفتاح فوري.
يغطي الإصدار المجاني من agentgateway ميزانيات كل مفتاح، وحجب PII، والتحقق من JWT، وترخيص MCP على مثيل واحد. بينما يضيف Solo Enterprise for agentgateway حدود معدل الاستخدام على مستوى الأسطول، ومورد الميزانية، وواجهة إدارة التكاليف، والنيابة في الهوية، وبناء FIPS والدعم الفني. يتم تسعيرها أيضًا عبر المبيعات، ولا تتوفر تجربة ذاتية الخدمة. يحتوي تحليل أسعار Solo AI gateway على تفاصيل أكثر.
غالبًا ما يكون الترخيص هو التكلفة الأصغر لأي منهما. مع LiteLLM، ضع في الحسبان تكلفة Postgres وRedis المدارين والمثيلات الإضافية التي يحتاجها وكيل Python عند التوسع. ومع agentgateway، ضع في الحسبان تكلفة إصدار المؤسسات بمجرد حاجتك لمشاركة الحدود عبر المثيلات.
تفاصيل وملاحظات هامة
قم بتثبيت إصدارات LiteLLM والتحقق من الصور. شهد LiteLLM اختراقين لسلسلة التوريد في عام 2026. في 24 مارس، احتوت الإصدارات الخبيثة 1.82.7 و1.82.8 على PyPI على سرقة بيانات الاعتماد. وفي 21 أكتوبر، وصل إصدار مخترق v1.107.0 إلى PyPI وDocker Hub لمدة ساعتين تقريبًا، وكانت صوره تحمل توقيعًا صالحًا. نشرت LiteLLM تقارير كاملة، وقامت بتدوير مفتاح التوقيع وغيرت عملية الإصدار لديها، ولكن تثبيت الإصدارات الدقيقة أصلح ممارسة أساسية للسلامة.
واكب تحديثات LiteLLM. أثرت ثغرة حقن SQL حرجة (CVE-2026-42208) على الإصدارات من v1.81.16 إلى v1.83.6 وتم إصلاحها في v1.83.7. مع الإصدارات الأسبوعية، خطط للتحديث بشكل متكرر. في نوفمبر 2026، بدأت LiteLLM أيضًا برنامجًا تجريبيًا للدعم طويل الأمد على خط 1.108.
حدد من يملك تكوين LiteLLM. مع تخزين النماذج في قاعدة البيانات، التغييرات التي تجريها في واجهة الإدارة تتجاوز ملف YAML، لذا يمكن للبوابة العاملة أن تنحرف عما هو موجود في Git.
يُعد Redis جزءًا من صحة عمل LiteLLM وليس فقط لسرعته. بدونه، يفرض كل مثيل حدود معدل الاستخدام الخاصة به بدلاً من الحد الذي حددته.
تقوم agentgateway بإعادة المحاولة مرة إضافية عما تذكره وثائقها. إعداد إعادة المحاولة 1 يقوم بإجراء استدعاءين للمزود، دون تراجع تدريجي (Backoff) ما لم تقم بإضافته.
يمكن أن تتعلق تدفقات agentgateway دون حد زمني. قم بتعيين responseIdleTimeout (الإصدار v1.6.0 وما بعده) على مسارات التدفق، وإلا فإن المزود الذي يتوقف في منتصف التدفق سيبقي الاتصال مفتوحًا.
متى تختار LiteLLM
- إذا كنت تريد التخزين المؤقت، أو التوجيه القائم على التكلفة، أو أوسع قائمة مزودين دون دفع أي مقابل.
- إذا كنت بحاجة إلى ميزانيات وحدود استهلاك تعمل عبر مثيلات متعددة في الفئة المجانية.
- إذا كان فريقك مرتاحًا لتشغيل Postgres وRedis وكتابة إضافات بلغة Python.
- إذا كنت ترغب في مجتمع كبير وتجربة ذاتية لميزات المؤسسات.
متى تختار agentgateway
- إذا كان زمن الاستجابة، أو الذاكرة، أو عدد المثيلات أمورًا حاسمة، مثل الوكلاء الذين يجرون استدعاءات كثيرة.
- إذا كنت تريد بوابة بدون قاعدة بيانات، ويفضل أن تكون على Kubernetes مع Gateway API.
- إذا كنت بحاجة إلى التحقق من JWT وحجب البيانات الشخصية (PII) دون ترخيص للمؤسسات.
- إذا كنت تفضل مشروعًا تدره مؤسسة مفتوحة المصدر بترخيص Apache 2.0.
بديل TrueFoundry
تترك كلا البوابتين شيئًا عليك بناؤه. يوفر لك LiteLLM الميزات ولكنه يسلمك إدارة Postgres وRedis والتحديثات وترخيص المؤسسات لـ SSO وسجلات التدقيق. بينما تُعد agentgateway خفيفة ولكنها تجبرك على الدفع لـ Solo مقابل أي ميزة مشتركة عبر المثيلات، ولا تحتوي على تخزين مؤقت. تعمل بوابة TrueFoundry AI Gateway كـ SaaS مدار، أو كبوابة داخل VPC خاص بك مع لوحة تحكم نستضيفها نحن، أو مستضافة ذاتيًا بالكامل داخل VPC، أو في مراكز بياناتك المحلية (On-premises)، أو في بيئة معزولة تمامًا (Air-gapped). تتلقى وحدات البوابة (Pods) التكوين وقواعد الوصول من لوحة التحكم في الوقت الفعلي، جنبًا إلى جنب مع عدادات ميزانيات وحدود الاستهلاك المجمعة مركزيًا، مما يعني تطبيق الحدود عبر النسخ المكررة دون الحاجة لترقية مدفوعة.
تكشف البوابة عن أكثر من 1,000 نموذج LLM عبر API واحد متوافق مع OpenAI، وتوجه إلى النماذج المستضافة ذاتيًا من نفس لوحة التحكم، وتدير حركة مرور LLM وMCP والوكلاء مع تحكم في الوصول على مستوى الأدوات وموافقة بشرية قبل استدعاء الأدوات ذات التأثير التخريبي. يمكن تحديد نطاق الميزانيات حسب الفريق، أو النموذج، أو حساب المزود، وتأتي ميزات SSO، وRBAC، وسجلات التدقيق مدمجة تلقائيًا. إذا كنت تقارن بين البوابات مفتوحة المصدر لأنك بحاجة إلى ضبط التكاليف وحوكمة الوكلاء معًا، شاهد كيف تتعامل بوابة TrueFoundry AI Gateway مع كليهما أو احجز عرضًا توضيحيًا (Demo).
قراءات ذات صلة
- agentgateway (سابقًا Gloo AI Gateway): مراجعة صريحة
- بدائل LiteLLM
- أسعار Solo AI gateway: تحليل كامل
- منافسو Solo.io وبدائلها
- أفضل بوابات MCP
- ما هي بوابة LLM؟
الخلاصة
ينحصر الاختيار بين LiteLLM وagentgateway في ما تقدره أكثر: التنوع أم الكفاءة. يوفر لك LiteLLM أكبر قدر من الميزات مجانًا، بما في ذلك التخزين المؤقت والحدود المشتركة، على حساب بيئة تشغيل أثقل وجدول تحديثات مزدحم. بينما توفر لك agentgateway بوابة سريعة وصغيرة مع ضوابط قوية للوكلاء وMCP، ولكن أي ميزة مشتركة عبر المثيلات تُعد ميزة مدفوعة. إذا كنت تريد المزج بين الميزتين دون تشغيل أي منهما بنفسك، احجز عرضًا توضيحيًا مع TrueFoundry.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.






















