Blank white background with no objects or features visible.

تحية إلى منطقة أوروبا والشرق الأوسط وأفريقيا! توسع TrueFoundry نطاق حضورها في هذه المنطقة الحيوية. اقرأ المزيد ←

نشر نموذج Falcon-40B على AWS: أرخص بنسبة 40% من Sagemaker

By أبهيشيك شودهاري

Updated: November 3, 2026

Published: July 2, 2026

في هذه المقالة، نناقش كيفية نشر نموذج Falcon على سحابتك الخاصة.

قام معهد الابتكار التكنولوجي في أبوظبي بتطوير Falcon، وهي سلسلة مبتكرة من نماذج اللغة. تم إصدار هذه النماذج بموجب ترخيص Apache 2.0، وتعد تقدمًا كبيرًا في هذا المجال. وبشكل خاص، يبرز Falcon-40B كنموذج مفتوح بحق، متفوقًا على العديد من النماذج مغلقة المصدر في قدراته. يتيح هذا التطوير فرصًا هائلة للمحترفين والمتحمسين والقطاع ككل، حيث يمهد الطريق لمختلف التطبيقات المثيرة.

في منشور المدونة هذا، سنشرح عملية LLMOps على SageMaker - استضافة نموذج Falcon على حسابك الخاص في سحابة AWS والخيارات المختلفة المتاحة. علاوة على ذلك، نخطط لإصدار منشور مدونة آخر في المستقبل، يركز على تشغيل Falcon على سحابات أخرى.

لقد كتبنا أيضًا منشور مدونة آخر حول نشر Llama 2 على سحابتك. تحقق من الرابط أدناه:

‍

‍

بالانتقال إلى عائلة Falcon، فهي تضم نموذجين أساسيين: Falcon-40B و  Falcon-7B. يتصدر النموذج ذو 40 مليار معامل حاليًا قائمة Open LLM Leaderboard، في حين يعتبر النموذج ذو 7 مليارات معامل الأفضل في فئته الوزنية. سنناقش خيارات نشر نموذج Falcon 40B.

يتطلب Falcon-40B سعة ذاكرة GPU تبلغ ~90 جيجابايت - لذلك لن يتناسب مع مثيل A100 واحد بذاكرة RAM سعة 80 جيجابايت. نوع المثيل الذي سيعمل في AWS هو g5.12xlarge (https://aws.amazon.com/ec2/instance-types/g5/). يمكننا نشر النموذج إما كـ API endpoint للاستدلال في الوقت الفعلي أو تحميله في الكود نفسه لحالات استخدام batch inference.  

الكود الخاص بتحميل النموذج وتشغيل مهمة توليد النصوص عليه هو كما يلي:

# pip install "transformers[tokenizers]>=4.29.2,<5.0.0" # "sentencepiece==0.1.99" "accelerate>=0.19.0,<1.0.0" # "safetensors>=0.3.1,<0.4.0"

import torch
from transformers import pipeline

generator = pipeline(
   "text-generation",
   model="tiiuae/falcon-40b-instruct",
   tokenizer="tiiuae/falcon-40b-instruct",
   torch_dtype=torch.bfloat16,
   device_map="balanced_low_0",
)
output = generator(
   "Explain to me the difference between nuclear fission and fusion.",
   min_new_tokens=30,
   max_new_tokens=50
)
print(output)

كود Python لتحميل Falcon40B في notebook

نشر النموذج كـ API

يمكننا نشر النموذج كـ endpoint إما على AWS Sagemaker أو EKS cluster أو جهاز EC2 عادي. لنشر النموذج على Sagemaker، يمكنك اتباع هذا الدرس التعليمي: https://aws.amazon.com/blogs/machine-learning/deploy-falcon-40b-with-large-model-inference-dlcs-on-amazon-sagemaker/.

Model Catalogue - Falcon models
كتالوج النماذج يتضمن نماذج Falcon

لنشر النموذج على EKS، سنحتاج إلى إنشاء EKS cluster، وإعداد GPU nodepool وgpu operator عليه، وطبقة ingress لنتمكن من الوصول إلى api endpoint. يمكن لـ TrueFoundry جعل هذه الرحلة بأكملها أسهل بكثير من خلال جعل نشر النموذج عملية بنقرة واحدة.

deploying Falcon 40B
أنماط مختلفة لنشر Falcon 40B

تحليل التكلفة

دعنا نتعمق في تكلفة تشغيل Falcon LLM على حسابك الخاص في AWS. سنقارن بين تكلفة تشغيله على Sagemaker مقابل TrueFoundry.

تكلفة Sagemaker

تكلفة مثيل Sagemaker (ml.g5.12xlarge) لكل ساعة (us-east-1): 7.09 $

لقد قمنا بتشغيل اختبار قياسي سريع لحساب معدل إنتاجية الطلبات وزمن الانتقال لنموذج falcon على AWS Jumpstart. ستختلف الأرقام الدقيقة بناءً على أطوال Prompt وتزامن الطلبات لديك، ولكن هذا يمنح فكرة تقريبية:

كما نرى في الرسوم البيانية أعلاه، فإن زمن الانتقال p50 يبلغ حوالي 5.7 ثانية وp90 حوالي 9.4 ثانية. نحن قادرون على تحقيق إنتاجية تصل إلى حوالي 6-7 طلبات في الثانية.

نشر النموذج على EKS باستخدام TrueFoundry

تقوم TrueFoundry بنشر النموذج على EKS ويمكننا استخدام spot instances وon-demand instances لتقليل التكلفة بشكل كبير. دعنا نقارن الأسعار بالساعة لمثيلات on-demand وspot وreserved لجهاز g5.12xlarge في منطقة us-east-1.

On Demand: 5.672 $ (أرخص بنسبة 20% من Sagemaker)
Spot: 2.076 $ (أرخص بنسبة 70% من Sagemaker)
1 Yr Reserved: 3.573 $ (أرخص بنسبة 50% من Sagemaker)
3 Yr Reserved: 2.450 $ (أرخص بنسبة 65% من Sagemaker)

دعنا نقارن معدل الإنتاجية وزمن الانتقال للنموذج المنشور على EKS باستخدام TrueFoundry.

إحصائيات زمن الانتقال ومعدل إنتاجية الطلبات
إحصائيات النموذج على TrueFoundry

كما نرى من الإحصائيات أعلاه، فإن زمن الانتقال p50 يبلغ 5.8 ثانية وp90 يبلغ 9.5 ثانية. ومعدل الإنتاجية حوالي 6-7 طلبات في الثانية. كما نرى أعلاه، فإن

حاسبة الأسعار

دعنا نحاول تقدير تكلفة استضافة نموذج Falcon لحالة استخدام فعلية مع حركة مرور حية. لنفترض أننا نتلقى 100 ألف طلب يوميًا ونرسل طلبات لنموذج Falcon لكل طلب منفرد. لخدمة حركة المرور هذه، يجب أن يكون مثيل واحد من g5.2xlarge كافيًا للتعامل مع حركة المرور نظرًا لأن كل مثيل يمكنه تنفيذ 6 طلبات في الثانية و100 ألف طلب يوميًا يعني طلبًا واحدًا في الثانية. ومع ذلك، ولأسباب تتعلق بالموثوقية، سنرغب في تشغيل مثيلين على الأقل. دعنا نقارن تكلفة تشغيل المثيلين:

Sagemaker: 7.1 $ * 2 ($ لكل ساعة) = 10000 $ شهريًا
EKS:
باستخدام spot instances: 2 $ * 2 ($ لكل ساعة) = 2880 $ شهريًا
باستخدام on-demand instances: = 8000 $ شهريًا

يمكننا أيضًا استخدام مزيج من مثيل spot واحد ومثيل on-demand واحد لتقليل التكلفة بنسبة 40% تقريبًا وتوليد مستوى عالٍ من الموثوقية أيضًا.

تحدث معنا

إذا كنت تتطلع إلى تعظيم العوائد من مشاريع LLM الخاصة بك وتمكين شركتك من الاستفادة من AI بالطريقة الصحيحة، فنحن نرحب بالتحدث وتبادل الأفكار معك.

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

August 26, 2026
|
5 min read

Gemini 3 Pro: معايير الأداء وكيفية استخدامه عبر البوابة (Gateway)

July 20, 2023
|
5 min read

LLMOps CoE: الحدود التالية في مشهد MLOps

May 25, 2023
|
5 min read

نماذج LLMs المفتوحة المصدر: تبنّها أو واجه اندثار أعمالك

August 27, 2025
|
5 min read

رسم خريطة سوق الذكاء الاصطناعي المحلي (On-Prem): من الشرائح إلى مستويات التحكم

Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

مقارنة بين LangChain وLangGraph: أيهما الأفضل لك؟

مقارنة
A detailed guide on Claude Fable 5
November 16, 2026
|
5 min read

كلود فيبل 5: واجهة برمجة التطبيقات، المعايير، التسعير وكيفية استخدامه

الهندسة والمنتج
openrouter vs litellm
November 16, 2026
|
5 min read

LiteLLM مقابل OpenRouter: أيهما الأنسب لك؟

مقارنة
November 16, 2026
|
5 min read

معمارية المحول في نماذج اللغة الكبيرة

مصطلحات LLM
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour