تطوير التطبيقات باستخدام Kubernetes

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
يُعتبر Kubernetes على نطاق واسع المنصة المثالية للفرق في المؤسسات الكبيرة والمتوسطة الحجم التي تتطلب توافرية عالية (high availability) ومتطلبات التوسيع التلقائي (autoscaling). ومع ذلك، فقد أضاف أيضًا بعض التعقيد إلى مسارات عمل المطورين الحالية. يمكن فهم هذا التغيير كجزء من توجه أوسع نحو تبني نمط الخدمات المصغرة (micro-services) والتعقيد المتزايد لكيفية تشغيل البرمجيات. في هذه المقالة، سنفحص كيف تطورت مشكلة تطوير البرمجيات مع هذا التحول في الأنماط.
حلقة التطوير (Dev Loop)
لنبدأ بمفهوم حلقة التطوير ودورها في مسارات عمل التطوير. تتكون حلقة التطوير لأي مشروع برمجي من حلقتين منفصلتين تتقاطعان عبر Git.

وهما -
- حلقة التطوير الداخلية (Inner dev loop) - تتضمن هذه العملية كتابة جزء من الكود وتجميعه واختباره على محطة العمل الخاصة بالمطور. تستمر هذه الحلقة حتى يتم نقل جزء مرضٍ من الكود إلى Git.
- حلقة التطوير الخارجية (Outer dev loop) - يتم تشغيل هذه الحلقة بعد نقل الكود من محطة عمل المطور إلى Git. وتتضمن إعداد الاختبارات ونشر المنتج النهائي. من الناحية المثالية، يجب إعداد هذه العملية كحلقة مستمرة، حيث تتم عمليات النشر مع كل دفع للكود يجتاز الاختبارات.
تتغذى هذه الحلقات على بعضها البعض وتشكّل دورة حياة كاملة لتطوير البرمجيات.
صعود الخدمات المصغرة (Micro-services)
جلب ظهور الخدمات المصغرة مكونات برمجية صغيرة ومستقلة ومترابطة بشكل مرن تقدم إمكانية توسع وموثوقية أفضل. لن نناقش المزايا هنا نظرًا لنشرها بشكل واسع جدًا، ولكن مخاوفنا تنبع من التعقيد التشغيلي المتزايد الناتج عن ذلك.

لنأخذ بعين الاعتبار إعدادًا بسيطًا حيث يستدعي frontend خدمة api، والتي بدورها تتواصل مع خدمتين أخريين تسمى identity و db. في هذا السيناريو، يعمل المطور لدينا على طبقة api، والتي تحتوي على تبعيات مواجهة للمستخدم (frontend) وتبعيات خلفية (identity, db). لنستكشف كيف تتغير عملية التطوير لخدمة api في حلقتي التطوير المختلفين -
حلقة التطوير الداخلية
- الوصول إلى التبعيات الخلفية - تحتاج خدمة
apiإلى التحدث مع كل من خدمتي identity و db لكي تعمل بنجاح. - الوصول إلى التبعيات المواجهة للمستخدم - من أجل اختبار ما إذا كانت التغييرات التي يتم إجراؤها على خدمة
apiمتوافقة مع التبعيات المواجهة للمستخدم، فمن المهم أيضًا إعادة توجيه الطلبات المواجهة للمستخدم إلى هذه الخدمة.
حلقة التطوير الخارجية
- التبعيات الخلفية - لكي يعمل اختبار e2e لخدمة
api، يجب أن يكون هناك وصول إلى نسخة شغالة من خدمتيidentityوdb - التبعيات المواجهة للمستخدم - هناك أيضًا حاجة إلى طريقة للسماح لـ
frontendبالوصول إلى هذه الخدمة لأغراض الاختبار. - نقطة نهاية مستضافة (Hosted endpoint) - بالإضافة إلى المتطلبات المذكورة أعلاه، نحتاج أيضًا إلى استضافة هذه النسخة من خدمة
apiبحيث يمكن اختبارها مباشرة
مشكلة حلقة التطوير الداخلية هي شيء قام Telepresence من Ambassador Labs بحله. وقد حاولنا حل مشكلة حلقة التطوير الخارجية على منصة TrueFoundry باستخدام Intercepts.
تقديم TrueFoundry Intercepts

يعمل مفهوم TrueFoundry Intercepts عن طريق حل مشاكل حلقة التطوير الخارجية الثلاث الموضحة في الأقسام السابقة. نتبع الاستراتيجية التالية لمعالجة هذا -
- روابط معاينة (Preview URLs) - باستخدام المنصة نفسها، من السهل نشر نسخة من خدمة حالية عند commit SHA محدد. يتيح لك هذا إنشاء روابط معاينة مخصصة لـ commit معين أو طلب سحب (pull request).
- اعتراضات قائمة على الرؤوس (Header based intercepts) - تجعل الاعتراضات من الممكن للخدمة الاستمرار في استخدام نفس URL مع إضافة رأس (header) إضافي يعيد التوجيه إلى نسخة المعاينة. على سبيل المثال، يمكننا إرفاق اعتراض بخدمة
apiبحيث يعيد التوجيه إلى نسخة معاينة بناءً على رأس يتم تمريره إليها. هذا يعني أنfrontendيمكن أن يستمر في العمل مع نفس URL لمجرد تمرير رأس إضافي أثناء الاختبار.
💡لمعرفة المزيد حول TrueFoundry intercepts، يرجى الرجوع إلى وثائقنا - https://docs.truefoundry.com/docs/intercepts
الخاتمة
لقد ناقشنا التغييرات في تدفق التطوير التي أحدثها ظهور الخدمات المصغرة وكيف نحرص على معالجتها. يظل هذا مسألة مفتوحة، ويمكننا توقع المزيد من الحلول المبتكرة في هذا المجال في المستقبل.
تحدث معنا
إذا كنت تتطلع إلى تعظيم العوائد من مشاريع LLM الخاصة بك وتمكين شركتك من الاستفادة من الذكاء الاصطناعي بالشكل الصحيح، فسنكون سعداء بالحديث وتبادل الأفكار.
اشرب ☕️ معنا
تعرف على كيفية مساعدة TrueFoundry لك في نشر LLMs في 5 دقائق:
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.



















.webp)




.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






