هل تسبب أعباء عمل AI في تضخم فاتورة السحابة لديك؟

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
نؤمن بثبات أن كل شركة ستصبح شركة Machine Learning (ML) في السنوات القليلة القادمة. ومع تبني المؤسسات لـ ML، فإن أحد التحديات الرئيسية التي تواجهها هو إدارة التكاليف السحابية المرتبطة بها. قد ينطوي تشغيل أعباء عمل AI/ML في السحابة على تكاليف باهظة بسرعة، ولكن مع التخطيط الدقيق والتحسين، من الممكن خفض هذه التكاليف بشكل كبير.
في هذه المقالة، سنستكشف عدة استراتيجيات لمساعدتك على تحسين البنية التحتية لـ AI لديك، مما يؤدي في النهاية إلى تقليل نفقاتك السحابية دون المساومة على الأداء أو القابلية للتوسع. فيما يلي الفئات العريضة التي ينبغي مراعاتها:
- القياس والتنسيب
- تقليل تكاليف الحوسبة باستخدام المثيلات الفورية / المحجوزة (spot / reserved instances)
- اختيار بنية النشر المناسبة
- تطبيق التحجيم التلقائي (autoscaling)
- تجميع الحوسبة والبيانات في موقع واحد (Compute and data colocation)
- الانتقال إلى كراسات الملاحظات المضافة والمزودة بالإيقاف التلقائي بدلاً من توفير VM مخصصة لكل مطور
- استخدام نقاط التحقق (checkpointing) حيثما أمكن لاستئناف مهام التدريب طويلة الأجل.
- الاستخدام الكفء لـ GPU
القياس والتنسيب
بعد العمل مع عدد غير قليل من المؤسسات ومن واقع خبرتنا السابقة، يأتي جزء كبير من التكلفة لمجرد أخطاء بشرية تتمثل في نسيان إيقاف تشغيل VMs، أو الخدمات، أو التصميم الخاطئ للبنية الذي يتسبب في تكاليف إضافية. تتيح لك الرؤية الكاملة لمن يملك ماذا والتكلفة المترتبة على مستوى الفريق / المشروع تحديد استنزاف التكاليف بشكل أسرع وتجعل الجميع مسؤولين عن مشاريعهم الخاصة.
لا يمكنك تحسين ما لا تقيسه

الخطوة الأولى في تحسين أعباء عمل ML هي البدء في قياس وتتبع التنسيب. فيما يلي بعض المبادرات التي يمكنك القيام بها:
- تتبع التكاليف على مستوى كل خدمة مصغرة (microservice) أو مشروع أو فريق.
- توفر رؤية التكاليف لجميع المطورين وضمان تمكينهم من فهم التكاليف وتقليلها.
- إعداد تنبيهات بشأن التكاليف السحابية.
- استخدام أدوات مثل Infracost.io لقياس تكلفة البنية التحتية قبل التزويد إذا كنت تستخدم Terraform.
تقليل تكلفة الحوسبة
تتطلب أعباء عمل ML تكاليف حوسبة ضخمة، ويرجع ذلك بالأساس إلى طلبها لموارد حوسبة عالية - سواء متطلبات CPU عالية أو GPUs، وكلاهما مكلف للغاية. فيما يلي بعض الخطوات التي يمكنك اتخاذها لتقليل تكلفة الحوسبة:
- تقطير النموذج وتقليمه (Model Distillation and Pruning) لتقليل متطلبات الموارد لنموذجك
- استخدام المثيلات المحجوزة والفورية (Reserved and Spot instances) لتقليل التكلفة. وفقًا لـ Amazon، يمكن لـ EC2 Spot Instances توفير ما يصل إلى 90% مما قد تنفقه على On-Demand Instances.
- اختيار التكوين الصحيح للموارد: وجدنا غالبًا أن فرق ML تقوم بالتزويد المفرط للموارد لخدمات ML ومهام التدريب. قد يعني هذا إما اختيار نوع المثيل الخاطئ إذا كنت تعمل مع VMs أو اختيار متطلبات متوافقة بشكل خاطئ لموارد CPU والذاكرة. من المهم الحصول على رؤية للموارد المطلوبة والمستخدمة من CPU/الذاكرة لتمكين ضبط القيم لتحقيق التكلفة المثلى.

👉
المثيل الفوري (Spot Instance): يتيح لك Spot Instance الوصول إلى سعة EC2 غير المستخدمة واستغلالها بخصم كبير جدًا.
عند تشغيل Spot Instance، تفوض الحد الأقصى للسعر الذي تتطلع لدفعه في الساعة. إذا كان سعر Spot لنوع المثيل و Availability Zone المطلوبة أقل من حدك الأقصى، سيتم تشغيل المثيل الخاص بك. ومع ذلك، إذا ارتفع سعر Spot لنوع المثيل و Availability Zone عن حدك الأقصى، فقد يتم إنهاء المثيل الخاص بك مع إشعار مدته دقيقتان.
👉
المثيل المحجوز (Reserved Instance): في هذا الخيار، تتعهد باستخدام كمية معينة من سعة EC2 لفترة زمنية محددة. في المقابل، تحصل على خصم كبير على سعر On-Demand لهذه السعة.
أجرينا دراسة مقارنة في US East (N. Virginia) ووجدنا أن:
- المثيلات الفورية (Spot instances) كانت متوفرة بسعر أرخص بنسبة 44%-62%.
- المثيلات المحجوزة لمدة سنة واحدة متوفرة بسعر أرخص بنسبة 14% - 37%.

اختيار بنية النشر المثلى
تتطلب حالات الاستخدام المختلفة في ML بنيات مختلفة، واختيار التصميم الخاطئ هنا يمكن أن يؤدي إلى فروق شاسعة في التكاليف. تشمل بعض حالات الاستخدام والأخطاء الأكثر شيوعًا التي رأيناها ما يلي:
- الاستدلال في الوقت الفعلي (Realtime Inference): في هذه الحالة، يكون زمن انتقال استدلال النموذج أقل من 1-2 ثانية (غالباً في حدود أجزاء من الثانية) وحجم حركة المرور مرتفع. يجب نشر النموذج كـ API للتوسع التلقائي في الوقت الفعلي وغالباً ما وجدنا أن الطلبات/الثانية هي مقياس أفضل للتحجيم التلقائي من CPU أو الذاكرة في الكثير من حالات استخدام ML. إذا كان حجم حركة المرور متقطعاً (مثل 2-3 ساعات في اليوم) والنموذج صغيراً، فإن النشر الخالي من الخوادم (AWS Lambda) يكون أكثر فاعلية من حيث التكلفة.
- الاستدلال غير المتزامن (Async Inference): في هذه الحالة، يمكن أن تستغرق منطق المعالجة بضع ثوانٍ ويجب تزويد زمام الانتظار (queue) لمزيد من الموثوقية - وإلا فقد يؤدي ذلك إلى إخفاقات وخسارة في نتائج الأعمال. بالنسبة إلى التحجيم التلقائي، يُعد طول زمام الانتظار مقياسًا جيدًا في حالات الاستخدام هذه.
- نماذج صغيرة متعددة مع حركة مرور متقطعة: هذه حالة استخدام شائعة في العديد من الشركات حيث تكون النماذج مخصصة للعملاء. في هذه الحالة، يوجد عدد كبير من النماذج وكل منها يتلقى كمية منخفضة من حركة المرور وتوقعات زمن الانتقال منخفضة للغاية. هنا، يستضيف حاوية واحدة نماذج متعددة ويتم تحميل النماذج وإلغاء تحميلها ديناميكيًا في الذاكرة بناءً على الحاجة. توجد تحديات هنا تتعلق بالنماذج المحملة بالفعل في القرون (pods) والتي يجب توجيه الطلبات إليها وفقًا لذلك.
- المعالجة المجهدة للموارد غير المتكررة / المهام المجدولة (cron jobs): قد تكون هذه حالة الاستخدام إذا تم تدريب النماذج ديناميكيًا بناءً على بعض إجراءات المستخدم. في هذه الحالة، قد لا يعمل الاستدلال غير المتزامن لأن وظيفة المعالجة قد تستغرق بضع دقائق. يفضل تقديم المعالجة كمهام إلى منسق سير العمل (workflow orchestrator) وتحديث التحديثات الحية للمهمة إلى قائمة إشعارات.
في كثير من الأحيان، يمكن أن يؤدي نمذجة إحدى حالات الاستخدام في بنية مختلفة إلى فقدان الموثوقية أو زمن انتقال إضافي أو فواتير سحابية ضخمة.
تطبيق التحجيم التلقائي (Autoscaling)
يفترض الناس أن التحجيم التلقائي مفيد فقط عندما يكون هناك حجم كبير من حركة المرور وتلزم زيادة الآلات أو تقليلها بناءً على حركة المرور القادمة. ومع ذلك، نريد أيضًا توسيع مفهوم التحجيم التلقائي إلى بيئات التطوير لتوفير التكلفة. تشمل بعض المجالات التي يمكن أن يساعد فيها التحجيم التلقائي في توفير التكلفة بشكل جذري ما يلي:
- تغيير حجم متطلبات الحوسبة تلقائيًا بناءً على الطلب: الاستفادة من إمكانيات التحجيم التلقائي لضبط حجم بنيتك التحتية ديناميكيًا بناءً على متطلبات أعباء العمل. من خلال التوسع أو التقلص تلقائيًا، يمكنك تحسين استخدام الموارد وتقليل التكاليف خلال فترات النشاط المنخفض. حدد عتبات ومحفزات التحجيم المناسبة بناءً على أنماط أعباء العمل لضمان التخصيص الأمثل للموارد.
- تقليص البنية التحتية إلى الصفر عند عدم الاستخدام (مثل مثيلات التطوير في الليل): بعض البنية التحتية في المؤسسة لا تكون مطلوبة عند عدم وجود مستخدمين. إن تطبيق نظام لتحجيم البنية التحتية للحوسبة إلى الصفر عندما لا تكون هناك حاجة إليها يمكن أن يولد قدرًا كبيرًا من التوفير للمؤسسة.
- التقدم بطلب لحجز المثيلات لدى موفر السحابة الخاص بك: قد يمنحك التقديم على المثيلات المحجوزة لدى موفر السحابة خصومات جيدة عندما تكون لديك متطلبات حوسبة متوقعة بشكل أكبر.
- فرض استخدام المثيلات الفورية لأعباء العمل عديمة الحالة (stateless): استفد من المثيلات الفورية (AWS) أو VMs القابلة للإلغاء (Google Cloud) لأعباء عمل ML المتسامحة مع الأخطاء. هذه المثيلات أرخص بكثير من المثيلات عند الطلب، مما يتيح لك توفير التكاليف من خلال المزايدة على السعة غير المستخدمة. ومع ذلك، كن حذرًا بشأن إنهاء المثيلات المحتمل، وصمم بنيتك التحتية للتعامل مع الانقطاعات بسلاسة. لعرض الفرق في أسعار المثيلات عند الطلب والمثيلات الفورية، لنقارن أسعار T4 GPU شهريًا في AWS و Azure.
g4dn.xlarge: 383$ (عند الطلب) مقابل 115$ (فوري)
NC4as T4 v3: 383$ (عند الطلب) مقابل 49$ (فوري)
تجميع الحوسبة والبيانات في موقع واحد (Compute and Data Colocation)
من المهم تجميع البيانات والحوسبة في نفس الموقع حتى لا نتحمل الكثير من تكاليف الدخول/الخروج (ingress/egress). عادةً ما تتضمن عمليات التدريب تنزيل البيانات إلى الآلات التي يتم تدريب النموذج عليها. إليك بضع نقاط يجب مراعاتها لتجنب التكاليف غير المتوقعة:
- مشاركة البيانات عبر علماء بيانات متعددين: من المهم الاحتفاظ بنسخة واحدة من بيانات التدريب المدخلة التي يمكن استخدامها من قبل علماء بيانات مختلفين بدلاً من إنشاء نسخة لكل عالم بيانات. يمكن تحقيق ذلك عن طريق تجميع وحدة تخزين للقراءة فقط مع البيانات في جميع آلات التدريب.
- حذف وحدات التخزين غير المستخدمة: غالباً ما ننسى حذف وحدات التخزين التي ربما قمنا بإنشائها، مما يؤدي إلى بقاء وحدات التخزين المعلقة وتكبد تكاليف.
الإيقاف التلقائي لكراسات الملاحظات بناءً على عدم النشاط
في كثير من الأحيان، يبدأ علماء البيانات VM، ويقومون بإعداد Jupyter Notebook هناك، أو يستخدمونه عبر SSH في VSCode. بينما تعمل هذه الطريقة، إلا أنها غالبًا ما تؤدي إلى نسيان المطورين إيقاف تشغيل VMs عند الانتهاء من العمل. يسبب هذا استنزافًا كبيرًا للتكاليف. يجدر الاستثمار في كراسات الملاحظات المضافة ذات الإيقاف التلقائي بمجرد أن ينمو فريق علماء البيانات إلى أكثر من 5 أعضاء.
الاستخدام الكفء لـ GPU
تُستخدم GPUs بكثافة في ML، ومع ذلك نادراً ما يتم استخدام GPUs بكفاءة. يلقي هذا المقال الضوء بشكل ممتاز على كيفية استخدام GPUs اليوم والقصور في ذلك. تُعد مشاركة GPU بين أعباء العمل، وتقنيات التجميع الكفء (batching) أساسية لاستغلال GPU بكفاءة.
كيف يمكن لـ TrueFoundry المساعدة في تقليل التكاليف؟
ساعدت TrueFoundry في توفير ما لا يقل عن 40% تقريبًا من تكاليف البنية التحتية لجميع عملائها.
نحن نستخدم Kubernetes
يساعد Kubernetes في تقليل التكلفة عن طريق تجميع أعباء العمل بكفاءة (binpacking) بين العقد والتأكد من استخدام العنقود (cluster) بفعالية. هذا المقال الرائع يلقي المزيد من الضوء على كيفية مساعدة Kubernetes في توفير التكاليف
توفير تكاليف التطوير بنسبة 60% باستخدام التحجيم التلقائي المعتمد على الوقت
تجعل TrueFoundry من السهل جدًا إيقاف تشغيل مثيلات التطوير الخاصة بك باستخدام ميزة التحجيم التلقائي المعتمدة على الوقت. يعمل المطورون غالباً لنحو 40 ساعة في الأسبوع، بينما تعمل الآلات قرابة 128 ساعة في الأسبوع. إذا قمنا بإيقاف تشغيل الآلات بفعالية، فيمكننا توفير حوالي 60% من التكلفة.

الإيقاف التلقائي لكراسات الملاحظات بناءً على عدم النشاط
تسمح Truefoundry لعلماء البيانات بتهيئة مهلة زمنية لعدم النشاط على كل كراسة ملاحظات، حيث سيتم إيقاف تشغيل كراسة الملاحظات تلقائيًا بعد انتهائها.

يساعد هذا في توفير الكثير من التكاليف خاصة إذا كانت كراسات الملاحظات تعمل على GPUs.
سهولة استخدام المثيلات الفورية (spot instances)
تجعل Truefoundry من السهل جدًا استخدام المثيلات الفورية / عند الطلب للمطورين. يعرف المطورون وعلماء البيانات تطبيقاتهم بشكل أفضل - لذا نترك لهم اتخاذ القرار الخيار الأفضل لتطبيقاتهم.

كما تظهر لك التبادلات بين تكلفة المثيلات الفورية وعند الطلب لتتمكن من اتخاذ القرار الصحيح وفقًا لحالة الاستخدام الخاصة بك.

حُصص الموارد للفرق / المطورين
تسمح لك Truefoundry بتعيين حُصص CPU، والذاكرة، و GPU للفرق والمطورين المختلفين مما يتيح للقادة فهم توزيع التكاليف عبر الفرق وأيضًا الحماية من أخطاء المطورين عن طريق عدم السماح لهم بتجاوز الحدود المخصصة.

رؤى متعلقة بتحسين التكلفة
تعرض Truefoundry تلقائيًا موارد CPU والذاكرة الموصى بها لخدمتك من خلال تحليل استهلاك الخدمة على مدار الأيام القليلة الماضية. وتوصي حاليًا بطلبات وحدود CPU والذاكرة المقترحة - ولكننا نخطط أيضًا للتوصية تلقائيًا باستراتيجية التحجيم التلقائي، والبنية الصحيحة في المستقبل.

إجراء التقييم
هل تريد تقييم كيف يمكنك تحسين تكلفة أعباء عمل AI؟ لقد أنشأنا تقييمًا سهلاً يستغرق 5 دقائق.
نعدكم بمشاركة التقرير المخصص معكم.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.
















.webp)





.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






