Blank white background with no objects or features visible.

تحية إلى منطقة أوروبا والشرق الأوسط وأفريقيا! توسع TrueFoundry نطاق حضورها في هذه المنطقة الحيوية. اقرأ المزيد ←

هندسة TrueFoundry على Azure: تكامل طبقة التحكم والحوسبة

By TrueFoundry

Updated: November 3, 2026

Published: July 2, 2026

إن ربط منصة الذكاء الاصطناعي التوليدي (Generative AI) على Microsoft Azure يعني تجميع عناصر الحوسبة والهوية والذكاء الاصطناعي المتميزة معًا. أنت تقوم بتوفير السعة الخام عبر Azure Kubernetes Service (AKS) وSpot VMs، وتتعامل مع الهوية عبر Entra ID، وتوجه الطلبات إلى Azure OpenAI. وتحدث المشكلات عندما يتعين على فرق البنية التحتية لديك تنظيم هذه الاتصالات يدويًا لكل نشر نموذج جديد.

يتم نشر TrueFoundry كطبقة بنية تحتية تراكبية (infrastructure overlay) داخل اشتراك Azure الخاص بك. نحن نتولى إدارة دورة حياة النشر، وأتحاد الهويات (identity federation)، والتوسع التلقائي (autoscaling). يوضح هذا المنشور أنماط التكامل الدقيقة التي نستخدمها لربط TrueFoundry بـ Azure، متضمنًا النشر منفصل الطبقات (split-plane)، والحدود الشبكية، وآليات هوية أحمال العمل (workload identity mechanics).

نموذج النشر: البنية منفصلة الطبقات (Split-Plane Architecture)

نستخدم بنية منفصلة الطبقات لعزل تنفيذ أحمال العمل عن إدارة المنصة. إذا كنت تقوم ببناء منصات على Amazon EKS، فستبدو لك هذه البنية مألوفة: حيث تفصل واجهة التحكم عن طبقة البيانات (data plane).

  • طبقة التحكم (The Control Plane): تعمل كخادم API ومخزن للبيانات الوصفية (metadata store). وهي تحتفظ ببيانات النشر (deployment manifests)، وتكوينات RBAC، وبيانات القياس عن بُعد (telemetry data).
  • طبقة الحوسبة (The Compute Plane): تعمل داخل عنقود AKS الخاص بك. وتتكون من وكيل TrueFoundry، والمتحكمات المحلية، وأوزان النموذج الفعلية ووحدات GPUs.

نقوم بربط الطبقتين باستخدام تدفق gRPC آمن للخروج فقط (outbound-only) أو عبر WebSocket. يبدأ الوكيل الموجود على جانب العنقود الاتصال بطبقة التحكم لسحب البيانات الوصفية (manifests) ودفع السجلات (logs). لا تحتاج إلى فتح أي منافذ واردة (inbound ports) على مجموعات أمان الشبكة (NSGs) في VNET الخاصة بك. ترفض VNET الخاصة بك حركة الدخول الخارجية من الإنترنت بشكل افتراضي.

‍

الشكل 1: البنية منفصلة الطبقات تعزل معالجة البيانات داخل VNET الخاصة بالعميل.

توبولوجيا الشبكات وتدفق حركة المرور

نقوم بتكوين شبكات طبقة الحوسبة باستخدام Azure CNI لتعيين عنوان IP مباشر على مستوى Pod. تظل موارد الحوسبة الخاصة بك في شبكات فرعية خاصة (private subnets).

حركة المرور الواردة والصادرة (Ingress and Egress)

  • حركة المرور الواردة: تصل حركة مرور التطبيق إلى Azure Application Gateway أو موزع أحمال (Load Balancer) داخلي قياسي. يقوم الممر بإنهاء تشفير TLS وتمرير حركة المرور إلى Istio Ingress Gateway الذي يعمل داخل AKS.
  • حركة المرور الصادرة: توجه عقد عمل AKS الاتصالات الصادرة عبر Azure NAT Gateway. وتستخدم هذا المسار لسحب الصور من Azure Container Registry واستطلاع طبقة التحكم.

تكامل النقطة الطرفية الخاصة (Private Endpoint Integration)

لتحقيق حدود امتثال صارمة، نقوم بتوجيه حركة المرور عبر Azure Private Link. يتم توجيه الاتصالات من pods الخاصة بالاستدلال لديك إلى Azure OpenAI وKey Vault وBlob Storage بالكامل عبر الشبكة الرئيسية لـ Microsoft.

‍

الشكل 2: تدفق حركة مرور الشبكة موضّحًا حركة الدخول والاتصال الخاص بـ Azure PaaS.

اتحاد الهويات: Entra Workload ID

تتسبب الأسرار الثابتة المكتوبة في الكود (Hardcoded static secrets) وService Principals في أعباء تدوير (rotation overhead) جسيمة. نحن نتحقق من صحة أحمال العمل ديناميكيًا باستخدام Microsoft Entra Workload ID. إذا كنت تدير بيئات AWS، فهذا هو المقابل لـ AWS IAM Roles for Service Accounts (IRSA) في Azure.

عندما تقوم بنشر خط أنابيب (pipeline)، ننفذ هذا التسلسل:

  1. إنشاء حساب الخدمة: نقوم بتوفير Kubernetes Service Account في نطاق الأسماء (namespace) الخاص بحمل العمل.
  2. الاتحاد (Federation): نربط حساب الخدمة هذا بهوية مُدارة مُعيّنة من قبل المستخدم (user-assigned Managed Identity) في Entra ID.
  3. تبادل الرموز (Token Exchange): يطلب pod رمزًا موثقًا من OIDC Issuer الخاص بـ AKS. يستبدل Azure SDK هذا الرمز برمز وصول Entra عبر نقطة نهاية OpenID Connect.
  4. الوصول إلى الموارد: يستخدم pod هذا الرمز لسحب النماذج من Blob Storage أو الاتصال بـ Azure OpenAI.

نستخدم DefaultAzureCredential في كود التطبيق. هذا يحدد نطاق التأثير فقط في أذونات RBAC الممنوحة لتلك الهوية المُدارة (Managed Identity) المحددة.

‍

الشكل 3: تدفق مصادقة Entra Workload ID.

تنظيم الحوسبة: تكامل Spot VM

غالبًا ما يؤدي تشغيل الاستدلال في الحالة المستقرة على VMs حسب الطلب (On-Demand VMs) إلى ارتفاع التكاليف الأساسية. نحن ننتقل مباشرة مع مجموعات عقد AKS لتنظيم Azure Spot Virtual Machines (بشكل مشابه لاستخدام Amazon EC2 Spot Instances).

ندير سعة Spot باستخدام المنطق التالي:

  • التوفير (Provisioning): نبني مجموعات عقد ثانوية مع الأولوية=Spot وسياسة الإخلاء=Delete.
  • التعامل مع الإخلاء: يستطلع المتحكم خاصتنا خدمة بيانات تعريف مثيل Azure (Azure Instance Metadata Service). عندما نكتشف إشعار إخلاء (تحذير لمدة 30 ثانية)، نقوم بحظر العقدة (cordon) وتفعيل Kubernetes Cluster Autoscaler لإعادة جدولة pod على عقدة احتياطية حسب الطلب (On-Demand fallback node).

بالنسبة للفرق التي تقوم بتشغيل batch inference أو تقديم API متسامح مع الأخطاء، يمكن لهذا الإعداد—بشكل مشابه جدًا لتشغيل Karpenter على AWS—تقليل تكاليف مثيلات الحوسبة بنسبة تصل إلى 80% اعتمادًا على مرونة حمل العمل.

بوابة الذكاء الاصطناعي (AI Gateway): توحيد النماذج

تؤدي إدارة مفاتيح API المتميزة وحُدود الرموز في الدقيقة (TPM) عبر مناطق Azure المتعددة إلى تباطؤ تشغيلي. تقوم TrueFoundry AI Gateway بتجريد هذا الأمر. بشكل مشابه لتوجيه الطلبات عبر Amazon Bedrock، يتصل المطورون بنقطة نهاية API داخلية واحدة.

  • التوجيه الذكي: نقوم بموازنة أحمال الطلبات عبر مناطق Azure. إذا قامت منطقة East US بتقييد معدل طلبك، تعيد البوابة المحاولة ضد West Europe.
  • إعادة التوجيه عند الفشل (Failover): في حالة حدوث انقطاع في Azure PaaS، يمكن للبوابة توجيه حركة المرور تلقائيًا إلى مثيل Llama 3 أو Mistral مستضاف مباشرة على طبقة حوسبة AKS الخاصة بك.

التوافق مع البنية التحتية ككود (Infrastructure as Code)

نحن نتوافق مع ممارسات GitOps و Infrastructure-as-code (IaC) القياسية. أنت تقوم بتوفير بيئة Azure الأساسية باستخدام وحدات Terraform التي نصلحها ونحافظ عليها.

تدير حالة Terraform الخاصة بك شبكات VNETs، وعنقود AKS، ومصدري OIDC، وقواعد بيانات PostgreSQL الأساسية. تترابط طبقة TrueFoundry التراكبية ببساطة مع هذه الم موارد الأصلية، مما يضمن بقاء بنيتك التحتية قابلة للمراجعة وممتثلة.

مقارنة تشغيلية

المهمة التطبيق الأصلي على Azure التطبيق عبر Azure + TrueFoundry
نشر نموذج مفتوح المصدر بناء الحاوية، والدفع إلى ACR، وكتابة بيانات AKS، وتكوين توجيه Ingress، وتكوين HPA. تحديد النموذج من الكتالوج، وتحديد قيود GPU. يولد المتحكم البيانات الوصفية ويفعل النشر.
إدارة Spot VM توفير Spot Node Pools. الحفاظ على منطق استطلاع مخصص ضد IMDS للتعامل مع الإخلاء وإعادة الجدولة. تمكين تكوين Spot. ينفذ المتحكم استطلاع IMDS، وحظر العقد، وجدولة التراجع إلى سعة On-Demand.
الوصول إلى Azure OpenAI إدارة مفاتيح منفصلة لكل منطقة. تطبيق منطق إعادة المحاولة على مستوى التطبيق للتعامل مع حدود TPM الخاصة بكل منطقة. التوجيه عبر AI Gateway. يوفر موازنة الأحمال عبر مناطق متعددة، وإعادات محاولة تلقائية عند أخطاء 429، وقياس عن بُعد مركزي.
إدارة الأسرار (Secret Management) نشر Secrets Store CSI Driver وتكوين بيانات SecretProviderClass لكل تطبيق. حقن متغيرات البيئة التي تشير إلى معرفات URIs لـ Azure Key Vault مباشرة عبر الواجهة أو CLI.

الملخص

إن نشر TrueFoundry على Azure يعزل تنفيذ الحوسبة والبيانات الخاصة بك بينما ندير نحن دورة حياة التطبيق. أنت تحتفظ بالسلطة المباشرة على شبكات VNETs، وNSGs، وحرمة إقامة البيانات لديك. نحن نتولى تنظيم المكونات. من خلال تجريد التوصيلات المعقدة بين AKS وEntra ID وAzure OpenAI، نتيح لفرق الهندسة لديك التركيز على تقديم النماذج بدلاً من مواجهة معارك البنية التحتية.

‍

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

No items found.
November 17, 2026
|
5 min read

شرح قيود Claude Code (إصدار 2026)

No items found.
Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

مقارنة بين LangChain وLangGraph: أيهما الأفضل لك؟

مقارنة
A detailed guide on Claude Fable 5
November 16, 2026
|
5 min read

كلود فيبل 5: واجهة برمجة التطبيقات، المعايير، التسعير وكيفية استخدامه

الهندسة والمنتج
openrouter vs litellm
November 17, 2026
|
5 min read

LiteLLM مقابل OpenRouter: أيهما الأنسب لك؟

مقارنة
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour