Blank white background with no objects or features visible.

تحية إلى منطقة أوروبا والشرق الأوسط وأفريقيا! توسع TrueFoundry نطاق حضورها في هذه المنطقة الحيوية. اقرأ المزيد ←

فريق مكون من شخصين يقدم النموذج لـ 1.5 مليون شخص باستخدام TrueFoundry

By تشينماي سينغ

Updated: November 3, 2026

Published: July 2, 2026

في الأشهر القليلة الماضية، أتيحت لنا الفرصة للعمل مع فريق صغير وموهوب للغاية. لقد طوروا نموذج تعلم عميق أحدث ما توصل إليه العلم، وأقاموا شراكات لشحنه وتوفيره لأكثر من 10 ملايين مستخدم.

كانت القطعة الأخيرة المفقودة في قصة نجاحهم هي التعامل مع الجانب الهندسي لتحقيق ذلك. كان النموذج يتطلب قدرات حسابية عالية، وبالحجم الذي أرادوا تقديم هذا النموذج من خلاله لمستخدميه النهائيين، كانوا بحاجة إلى بنية تحتية موثوقة وعالية الأداء يمكن لشخصين فقط إدارتها (مهندس DevOps واحد ومهندس ML واحد).

الحاجة إلى النشر غير المتزامني (Async Deployment)

تم بناء النموذج لمعالجة مدخلات صوتية بأحجام مختلفة. ونظرًا لأن النموذج كان يستغرق وقتًا طويلاً في المعالجة (بمتوسط 5 ثوانٍ تقريبًا)، فقد كان بحاجة إلى استدلال غير متزامن (async inference) لكل طلب لمعالجة هذه الطلبات والاستجابة لها.

طور الفريق البنية التحتية على AWS SageMaker

أنشأ الفريق بنيته التحتية الأولية لتقديم النموذج على SageMaker. ومع ذلك، عندما أجروا أول تجربة أوليّة باستخدام هذا التصميم، أدركوا أن تقديم النموذج بموثوقية وبالحجم المطلوب سيكون صعبًا باستخدام هذه البنية.

واجه المستخدمون تأخيرات تتراوح بين 8 و10 دقائق

حتى بعد استخدام الإعداد غير المتزامن (Async)، وبسبب الوقت الذي استغرقته الآلات للتوسع (8-10 دقائق لكل آلة)، تأثرت تجربة المستخدم النهائي عندما اضطر للتحمل هذا التأخير.

الإعداد الأولي للفريق على SageMaker

ومع ذلك، خلال إثبات المفهوم (PoC)، واجهوا تأخيرات كبيرة في أوقات الاستجابة. ولأنهم كانوا جديدين على العديد من عناصر التحكم المتعلقة بـ SageMaker، فقد أضاعوا وقتًا حرجًا في البحث عن سبب التأخير. وكانت بعض التحديات التي واجهوها هي:

  1. صعوبة التعلم: وجد علماء البيانات ومؤهلو ML صعوبة في فهم المفاهيم الجديدة المطلوبة لاستخدام SageMaker.
  2. رؤية محدودة: كان إجراء تحليل الأسباب الجذرية للمشكلات، خاصة في بيئة الإنتاج، أمرًا صعبًا بسبب لوحات التحكم والواجهات غير المباشرة.
  3. صعوبة التوسع: كان التوسع في SageMaker بطيئًا، مما تسبب في تأخير استجابات المستخدمين وتجربة عملاء سيئة.
  4. حصة مخصصة مستقلة (Separate Quota): تتطلب AWS تقديم طلب منفصل للحصول على سعة لآلات GPU المحجوزة لـ SageMaker. وجد الفريق هذه العملية بطيئة ومقيدة.
  5. مكلفة: كان استخدام GPUs مع SageMaker مكلفًا للفريق لأن SageMaker يرفع أسعار هذه الآلات بنسبة 25-40% مقارنة بـ EKS الخام.

بعد إثبات المفهوم (PoC)، فقد الفريق الثقة في SageMaker وقرروا أنهم بحاجة إلى حل يمكن لشخصين (مهندس ML واحد ومهندس DevOps واحد) من خلاله خدمة جمهورهم المستهدف البالغ أكثر من 10 ملايين مستخدم.

نشر النظام على TrueFoundry في أقل من يومين

عندما بدأنا التواصل مع الفريق، كانت تجربتهم الأوليّة على بعد ~7 أيام. أVisualنا الفريق بأننا نستطيع مساعدتهم في نقل البنية التحتية بالكامل وإعادة بنائها باستخدام وحدات TrueFoundry في أقل من يومين، حتى يحصلوا على وقت كافٍ للاختبار قبل الانتقال بالتجربة إلى بيئة الإنتاج.

البنية التحتية الجديدة مع TrueFoundry

توسع أسرع بكثير

أجرى الفريق اختبارات قياسية عن طريق إرسال دفعة مفاجئة من 88 طلبًا إلى النموذج لقياس الأداء مقارنة بـ SageMaker. قامت TrueFoundry بالتوسع تلقائيًا أسرع بنسبة 78% من SageMaker، مما منح المستخدم استجابات أسرع بكثير. كان الوقت الإجمالي المستغرق للاستجابة للاستعلام أسرع بنسبة 40% مع TrueFoundry.

‍

نتائج اختبار التوسع التلقائي (G5.XLARGE، 2 WORKERS، 88 طلبًا)
AWS SageMaker TrueFoundry
الوقت الإجمالي لمعالجة 88 طلبًا 660 ثانية 395.9 ثانية

‍

نتائج اختبار التوسع التلقائي (G5.XLARGE، 2 WORKERS، 88 طلبًا)
AWS SageMaker TrueFoundry
الوقت الإجمالي لمعالجة 88 طلبًا 660 ثانية 395.9 ثانية

‍

توسع موثوق إلى أكثر من 150 عقدة (Nodes)

تمكن الفريق ببساطة من توسيع التطبيق إلى أكثر من 150 عقدة GPU لأنها:

  1. سهلة التهيئة: كان عليهم فقط تغيير وسيط (argument) على واجهة المستخدم ويمكنهم بسهولة تهيئة قواعد التوسع التلقائي بناءً على تراكم الطلبات الواردة. كان هذا ليتطلب بخلاف ذلك مراجعات وتنسيقات متعددة مع فريق الهندسة.
  1. زيادة حصة GPU: مع TrueFoundry، كان بإمكانهم استخدام كل من Spot وRaw ECS. ونظرًا للنقص في معالجات GPU لدى مزودي السحابة، وفرت TrueFoundry أيضًا للفريق خيار التوسع عبر مزودي GPU ومناطق مختلفين.
استخدام سلس لـ Spot
  1. استخدام Spot والتوسع التلقائي: لم يضطر الفريق إلى بذل أي جهد إضافي لتهيئة استخدام Spot Instances لخدماتهم. كما تم تقليص الحجم تلقائيًا عند انخفاض حركة المرور. باستخدام آلية الموثوقية في TrueFoundry لاستخدام Spot وإعدادات التوسع التلقائي، وفر الفريق أكثر من 100 ألف دولار خلال فترة التجربة الأوليّة.
  2. بيئة التطوير والعروض التوضيحية (Dev and Demo): قام الفريق أيضًا بنشر خدمة Dev وDemo للنموذج لجمع الملاحظات مع تقليص حجم الآلات عند عدم الاستخدام.

تمت خدمة 1.5 مليون مستخدم بالفعل والعدد يزداد يوميًا!

باستخدام TrueFoundry، يمكن للفريق المكون من شخصين إدارة عبء العمل بالكامل، والذي يتوسع غالبًا إلى أكثر من 150 عقدة GPU!! بمفردهما. أثناء العمل معنا، كان أبرز ما لفت انتباه الفريق هو دعم العملاء وسرعة الاستجابة لدينا. TrueFoundry مستثمرة في نجاح عملائها وتأمل أن يستمر جميع عملائنا في التوسع وإحداث تأثير بمستويات مماثلة لهذا المشروع!

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

November 5, 2025
|
5 min read

إقامة البيانات في عصر الذكاء الاصطناعي الوكيل: كيف تُمكّن بوابات الذكاء الاصطناعي من تحقيق التوسع السيادي والامتثال

October 5, 2023
|
5 min read

<Webinar> عرض الذكاء الاصطناعي التوليدي للمؤسسات

Best Fine Tuning Tools for Model Training
May 3, 2024
|
5 min read

أفضل 6 أدوات ضبط دقيق (Fine-Tuning) لتدريب النماذج في عام 2026

May 25, 2023
|
5 min read

نماذج LLMs المفتوحة المصدر: تبنّها أو واجه اندثار أعمالك

Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

مقارنة بين LangChain وLangGraph: أيهما الأفضل لك؟

مقارنة
A detailed guide on Claude Fable 5
November 16, 2026
|
5 min read

كلود فيبل 5: واجهة برمجة التطبيقات، المعايير، التسعير وكيفية استخدامه

الهندسة والمنتج
openrouter vs litellm
November 16, 2026
|
5 min read

LiteLLM مقابل OpenRouter: أيهما الأنسب لك؟

مقارنة
November 16, 2026
|
5 min read

معمارية المحول في نماذج اللغة الكبيرة

مصطلحات LLM
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour