Blank white background with no objects or features visible.

تحية إلى منطقة أوروبا والشرق الأوسط وأفريقيا! توسع TrueFoundry نطاق حضورها في هذه المنطقة الحيوية. اقرأ المزيد ←

فهم اختبارات أداء نموذج LLAMA 2 لتقييم الأداء

By TrueFoundry

Updated: November 3, 2026

Published: July 2, 2026

⚡ ملخص سريّع

يقيس هذا الاختبار أداء Llama 2-7B من حيث زمن الانتقال (latency)، والتكلفة، ومعدل إنتاجية البيانات (throughput) عبر أنماط نشر مختلفة لتحديد ما إذا كان جاهزًا للإنتاج لبيئة عملك.

النقاط الرئيسية
  • تم الاختبار من حيث زمن الانتقال، والتكلفة لكل طلب، والطلبات في الثانية عبر تكوينات مختلفة لـ GPU والنشر.
  • يحدد نمط النشر واختيار الأجهزة المفاضلة بين التكلفة والأداء بدرجة أكبر من حجم النموذج الخام وحده.
  • تساعد النتائج في تحديد حجم البنية التحتية ووضع توقعات واقعية لزمن الانتقال والتكلفة قبل الانتقال إلى مرحلة الإنتاج.
  • بمجرد نشر النماذج، تتيح لك بوابة الذكاء الاصطناعي (AI gateway) التوجيه فيما بينها والتغيير دون تغييرات في الكود مع تطور الاحتياجات.

نحن نقوم باختبار أداء LLama2-7B في المقال من منظور زمن الانتقال، والتكلفة، والطلبات في الثانية. سيساعدنا هذا في تقييم ما إذا كان يمكن أن يكون اختيارًا جيدًا بناءً على متطلبات العمل. يرجى ملاحظة أننا لا نغطي الأداء النوعي في هذا المقال - هناك طرق مختلفة لمقارنة LLMs والتي يمكن العثور عليها هنا.

النموذج: Llama2-7B

في هذه المدونة، قمنا باختبار أداء نموذج Llama-2-7B من NousResearch. هذه نسخة مدربة مسبقًا من Llama-2 مع 7 مليارات معيار (parameter).

‍

‍

طورت Meta وأصدرت علنًا عائلة Llama 2 من النماذج اللغوية الكبيرة (LLMs)، وهي مجموعة من نماذج النصوص التوليدية المدربة مسبقًا والمعدلة دقيقًا تتراوح في الحجم من 7 مليارات إلى 70 مليار معيار.

المقاييس التي تم اختبارها مع نموذج LLAMA 2: تقييم مؤشرات الأداء الرئيسية

  1. الطلبات في الثانية (RPS): الطلبات في الثانية التي يتعامل معها النموذج. مع ارتفاع RPS، يرتفع زمن الانتقال عادةً.
  2. زمن الانتقال (Latency): كم من الوقت يستغرق إكمال طلب الاستدلال (inference request)؟
  3. الجانب الاقتصادي: ما هي التكاليف المرتبطة بنشر LLM؟

هل تقوم باختبار النماذج لاختيار النموذج المناسب؟

بمجرد اختيار نموذج، تتيح لك AI Gateway من TrueFoundry استضافته جنباً إلى جنب مع أكثر من 1000 نموذج آخر خلف نقطة نهاية واحدة متوافقة مع OpenAI - مع أدوات التوجيه والحلول البديلة والتحكم في التكاليف، داخل VPC الخاص بك.

احجز عرضًا توضيحيًا لمدة 30 دقيقةاستكشف AI Gateway

حالات الاستخدام وأنماط النشر مع LLAMA 2: تقييم السيناريوهات

العوامل الرئيسية التي قمنا باختبار الأداء بناءً عليها هي:

نوع GPU:

  1. GPU من نوع A100 40GB
  2. GPU من نوع A10  24GB

طول المطالبة (Prompt Length):

  1. 1500 رمز إدخال (input tokens)، 100 رمز إخراج (output tokens) (مشابهة لحالات استخدام التوليد المعزز بالاسترجاع RAG)
  2. 50 رمز إدخال، 500 رمز إخراج (حالات الاستخدام الثقيلة في التوليد)

إعداد اختبار الأداء مع LLAMA 2: تهيئة بيئات الاختبار

لاختبار الأداء، استخدمنا locust، وهي أداة مفتوحة المصدر لاختبار الحمل (load-testing). تعمل Locust عن طريق إنشاء مستخدمين/عمال لإرسال الطلبات بالتوازي. في بداية كل اختبار، يمكننا ضبط Number of Users و Spawn Rate. هنا تشير Number of Users إلى أقصى عدد من المستخدمين الذين يمكن إنشاؤهم/تشغيلهم في وقت واحد، بينما تشير Spawn Rate إلى عدد المستخدمين الذين سيتم إنشاؤهم في الثانية.

في كل اختبار أداء لتكوين النشر، بدأنا من 1 مستخدم واصلنا زيادة Number of Users تدريجيًا حتى رأينا زيادة مستمرة في RPS. خلال الاختبار، قمنا أيضًا برسم response times (in ms) و total requests per second.

في كل من تكويني النشر الـ 2، استخدمنا خادم نموذج huggingface لـ text-generation-inference يمتلك version=0.9.4. فيما يلي المعلمات التي تم تمريرها إلى صورة text-generation-inference لتكوينات النموذج المختلفة:

‍

المعلمات LLAMA-2-7B على A100 LLAMA-2-7B على A10G
Max Batch Prefill Tokens 6100 10000

‍

إليك إطار عمل التقييم لنموذج المقترح

المعيار ماذا يجب أن تقيّم؟ الأولوية TrueFoundry
API موحد والتوجيه (Routing)
نقطة نهاية موحدة متوافقة مع OpenAI هل API البوابة متوافق مع صيغ /v1/chat/completions و /v1/responses الخاصة بـ OpenAI، مما يسمح بالوصول الاتساقي عبر نماذج مختلفة من خلال واجهة موحدة؟ ضروري (Must have) ✅ مدعوم: نقطة نهاية متوافقة مع OpenAI عبر جميع المزودين.
تغطية المزودين والنماذج هل يدعم المزودين الرائدين مثل OpenAI، وAzure OpenAI، وAmazon Bedrock، وAnthropic، وGemini، وGroq، بالإضافة إلى النماذج المستضافة ذاتيًا؟ ضروري (Must have) ✅ مدعوم: أكثر من 1000 نموذج LLM عبر مزودين مستضافين ومستضافين ذاتيًا.
سرعة إضافة النماذج ما هي سرعة إضافة نماذج جديدة (متوافقة مع OpenAI وواجهات برمجة التطبيقات غير القياسية) دون تغييرات في الكود؟ ضروري (Must have) ✅ مدعوم: إعداد قائم على التكوين (config-driven) في خلال دقائق.
الدعم متعدد الوسائط (Multimodal) هل تدعم البوابة النصوص والرؤية والصوت وتوليد الصور والضمائم (embeddings) من خلال واجهة واحدة؟ يعتمد على حالة الاستخدام ✅ مدعوم: الدردشة والضمائم والصور والصوت وإعادة الترتيب (rerank) وواجهات برمجة التطبيقات في الوقت الفعلي (realtime).
التوجيه وموازنة الحمل والحلول البديلة هل يمكن توجيه الطلبات حسب النموذج والمزود وزمن الانتقال والأولوية والوزن والمنطقة وحالة الفشل مع إعادة المحاولة التلقائية؟ ضروري (Must have) ✅ مدعوم: موازنة الحمل، والحلول البديلة، والتوجيه المرجح والقائم على زمن الانتقال.
تبديل النموذج دون تغيير الكود هل تبديل النموذج مدعوم عبر الرؤوس (headers) أو التكوين دون تغيير كود العميل؟ ضروري (Must have) ✅ مدعوم: تبديل النموذج القائم على الرؤوس والقائم على التكوين.
قائمة مراجعة تقييم AI Gateway
دليل عملي تستخدمه فرق المنصات والبنية التحتية

ملخص نتائج اختبار الأداء: تلخيص نتائج LLAMA 2

زمن الانتقال، وRPS، والتكلفة

نحسب أفضل زمن انتقال بناءً على إرسال طلب واحد فقط في كل مرة. لزيادة معدل إنتاجية البيانات، نرسل الطلبات بالتوازي إلى LLM. الإنتاجية القصوى هي الحالة التي يكون فيها النموذج قادرًا على معالجة الطلبات المدخلة دون تدهور كبير في زمن الانتقال.

نتائج اختبار الأداء لـ LLama-2 7B

الرموز في الثانية (Tokens Per Second)

تعالج نماذج LLM رموز الإدخال والتوليد بشكل مختلف - ولهذا السبب قمنا بحساب معدل معالجة رموز الإدخال ورموز الإخراج بشكل منفصل.

من اختبار الأداء إلى الإنتاج؟

قم بالتوجيه عبر النماذج المستضافة ذاتيًا والمستضافة، وقم بالتبديل دون تغييرات في الكود، وادارة التكلفة والوصول من لوحة تحكم واحدة. شاهد كيف تشغل AI Gateway من TrueFoundry النماذج بمقياس واسع.

احجز عرضًا توضيحيًا لمدة 30 دقيقةاستكشف AI Gateway

النتائج التفصيلية: تحليل عميق لـ LLAMA 2

GPU من نوع A10 24GB (1500 رمز إدخال + 100 رمز إخراج)

يمكننا أن نلاحظ في الرسوم البيانية أعلاه أن أفضل وقت استجابة (عند مستخدم واحد) هو 4.1 seconds. يمكننا زيادة عدد المستخدمين لإرسال المزيد من حركة المرور إلى النموذج - يمكننا رؤية زيادة الإنتاجية حتى 0.9 RPS دون انخفاض كبير في زمن الانتقال. بعد 0.9 RPS، يزداد زمن الانتقال بشكل حاد مما يعني أن الطلبات يتم وضعها في قائمة الانتظار.

GPU من نوع A10 24GB (50 رمز إدخال + 500 رمز إخراج)

يمكننا أن نلاحظ في الرسوم البيانية أعلاه أن أفضل وقت استجابة (عند مستخدم واحد) هو 15 seconds. يمكننا زيادة عدد المستخدمين لإرسال المزيد من حركة المرور إلى النموذج - يمكننا رؤية زيادة الإنتاجية حتى 0.9 RPS دون انخفاض كبير في زمن الانتقال. بعد 0.9 RPS، يزداد زمن الانتقال بشكل حاد مما يعني أن الطلبات يتم وضعها في قائمة الانتظار.

GPU من نوع A100 40GB (1500 رمز إدخال + 100 رمز إخراج)

يمكننا أن نلاحظ في الرسوم البيانية أعلاه أن أفضل وقت استجابة (عند مستخدم واحد) هو 2 seconds. يمكننا زيادة عدد المستخدمين لإرسال المزيد من حركة المرور إلى النموذج - يمكننا رؤية زيادة الإنتاجية حتى 3.6 RPS دون انخفاض كبير في زمن الانتقال. بعد 3.6 RPS، يزداد زمن الانتقال بشكل حاد مما يعني أن الطلبات يتم وضعها في قائمة الانتظار.

GPU من نوع A100 40GB (50 رمز إدخال + 500 رمز إخراج)

يمكننا أن نلاحظ في الرسوم البيانية أعلاه أن أفضل وقت استجابة (عند مستخدم واحد) هو 8.5 seconds. يمكننا زيادة عدد المستخدمين لإرسال المزيد من حركة المرور إلى النموذج - يمكننا رؤية زيادة الإنتاجية حتى 3.5 RPS دون انخفاض كبير في زمن الانتقال. بعد 3.5 RPS، يزداد زمن الانتقال بشكل حاد مما يعني أن الطلبات يتم وضعها في قائمة الانتظار.

نأمل أن يكون هذا مفيدًا لك لتحديد ما إذا كان LLama7B مناسبًا لحالة الاستخدام الخاصة بك والتكاليف التي يمكنك توقع تكبدها أثناء استضافة Llama7B.

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

August 26, 2026
|
5 min read

Gemini 3 Pro: معايير الأداء وكيفية استخدامه عبر البوابة (Gateway)

July 20, 2023
|
5 min read

LLMOps CoE: الحدود التالية في مشهد MLOps

May 25, 2023
|
5 min read

نماذج LLMs المفتوحة المصدر: تبنّها أو واجه اندثار أعمالك

August 27, 2025
|
5 min read

رسم خريطة سوق الذكاء الاصطناعي المحلي (On-Prem): من الشرائح إلى مستويات التحكم

Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

مقارنة بين LangChain وLangGraph: أيهما الأفضل لك؟

مقارنة
A detailed guide on Claude Fable 5
November 16, 2026
|
5 min read

كلود فيبل 5: واجهة برمجة التطبيقات، المعايير، التسعير وكيفية استخدامه

الهندسة والمنتج
openrouter vs litellm
November 16, 2026
|
5 min read

LiteLLM مقابل OpenRouter: أيهما الأنسب لك؟

مقارنة
November 16, 2026
|
5 min read

معمارية المحول في نماذج اللغة الكبيرة

مصطلحات LLM
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour