Blank white background with no objects or features visible.

تحية إلى منطقة أوروبا والشرق الأوسط وأفريقيا! توسع TrueFoundry نطاق حضورها في هذه المنطقة الحيوية. اقرأ المزيد ←

تنسيق الذكاء الاصطناعي على الخوادم المخصصة (Bare-Metal): تكامل TrueFoundry مع Oracle Cloud Infrastructure

By بويو وانغ

Updated: November 3, 2026

Published: July 2, 2026

تتخذ Oracle Cloud Infrastructure (OCI) نهجًا مختلفًا لحوسبة الذكاء الاصطناعي مقارنة بمزودي الخدمات السحابية الضخمة (Hyperscalers) الذين يركزون أولاً على الأجهزة الافتراضية (VM-first). تتمثل الطبقة المتميزة في الخوادم المخصصة (bare-metal): حيث تعمل فئات GPU في OCI — مثل BM.GPU.H100.8 — بدون أي عبء إضافي من برنامج إدارة التشغيل الافتراضي (hypervisor)، وتتصل عبر بطاقات NVIDIA ConnectX SmartNICs شبكية من خلال شبكة عنقودية مخصصة تعتمد على RDMA over Converged Ethernet (RoCE v2).

هذا الحد الأقصى من الأداء يأتي مع اعتبارات تشغيلية عند إدارة البنية التحتية السحابية على الخوادم المخصصة. تعني الخوادم المخصصة أنك أصبح المسؤول الآن عن الطبقة التي تجردها عادةً الأجهزة الافتراضية: برامج تشغيل GPU وحزمة OFED، والجدولة ضمن قيود المخطط الهندسي (topology) للشبكة العنقودية، وتوحيد الهوية عبر OCI IAM، والاختيار من بين عدة مسارات تخزين لأوزان النماذج (model weights). لا شيء من هذا غير مألوف، ولكنه يتطلب عملاً كبيراً على Kubernetes لا يظهر في عروض الأجهزة الافتراضية المدارة.

دور TrueFoundry في هذه الحزمة هو توفير طبقة تشغيلية أصيلة لـ Kubernetes (Kubernetes-native). تتمثل طبقة الحوسبة (Compute Plane) في عنقود Oracle Cloud Infrastructure Kubernetes Engine (OKE) الخاص بك والذي يعمل على خوادم OCI المخصصة. تقوم المنصة بتجميع مجموعة من المكونات المفتوحة المصدر والتابعة لـ CNCF (مثل ArgoCD وArgo Workflows وNVIDIA GPU Operator وPrometheus وKEDA وIstio وغيرها) في نشر مُدار، وتضيف واجهة مستخدم موحدة وسير عمل GitOps، وتوفر إمكانية الملاحظة (observability) عبر الخدمات والوظائف واستخدام GPU. وهي لا تستبدل عناصر OCI الأساسية — بل تجلس فوقها.

يستعرض هذا المنشور الهندسة المعمارية التي تحصل عليها عند تشغيل TrueFoundry على خوادم OCI المخصصة: الفصل بين طبقة التحكم وطبقة الحوسبة، وكيف يتناسب تدريب RDMA مع Kubernetes، وكيف تعمل هوية أعباء العمل، والأنماط العملية لتحميل أوزان النماذج بحجم كبير.

نموذج النشر: طبقة التحكم وطبقة الحوسبة

تستخدم TrueFoundry هندسة معمارية ذات طبقات منفصلة. تحتفظ طبقة التحكم (Control Plane) (التي تديرها TrueFoundry أو المستضافة ذاتيًا) بالبيانات الوصفية (metadata)، والتحكم في الوصول المستند إلى الأدوار (RBAC)، وخادم API، ومخزن بيانات التعريف للنشر (deployment manifests). بينما تكون طبقة الحوسبة (Compute Plane) عبارة عن عنقود Kubernetes واحد أو أكثر في بيئتك السحابية الخاصة — وفي هذه الحالة، عنقود OKE على خوادم OCI المخصصة. تظل أعباء العمل وأوزان النماذج وبيانات العملاء داخل بيئتك (tenancy).

الرابط بينهما هو tfy-agent، الذي يعمل على عنقود طبقة الحوسبة ويفتح WebSocket للخارج فقط إلى طبقة التحكم. يسحب الوكيل بيانات التعريف للنشر ويدفع تحديثات موارد Kubernetes إلى الخلف. نظرًا لأن الاتصال يتجه للخارج، فلا داعي لفتح منافذ واردة على VCN الخاصة بك أو كشف خادم API الخاص بالعنقود للإنترنت العام.

عندما تقوم TrueFoundry بإعداد طبقة الحوسبة، يقوم الوكيل بتثبيت وإدارة مجموعة من الملحقات مفتوحة المصدر عبر ArgoCD:

  • ArgoCD لتسليم التطبيقات بأسلوب GitOps
  • Argo Workflows لميزة الوظائف (تشغيل التدريب، وخطوط أنابيب الدُفعات)
  • Argo Rollouts للنشر من نوع canary وblue-green
  • Prometheus / kube-prometheus-stack للمقاييس التي تغذي التحجيم التلقائي وإمكانية الملاحظة
  • KEDA للتحجيم التلقائي الموجه بالأحداث
  • Istio كـ ingress controller رئيسي ولإدارة حركة المرور
  • NVIDIA GPU Operator لـ دورة حياة برامج تشغيل GPU، وفحوصات الصحة المستندة إلى DCGM، وتسميات عقد GPU عبر Node Feature Discovery (تسميات المخطط الهندسي لـ RDMA الخاصة بـ OCI يتم كشفها بشكل منفصل بواسطة توفير العقد الخاص بـ OCI — انظر قسم الشبكات أدناه)
  • Victoria Logs + Vector (اختياري) لتجميع السجلات

يمكنك أيضًا استخدام النسخ الموجودة لديك بالفعل لأي من هذه المكونات — توفر TrueFoundry وثائق للتكوين المطلوب للتعايش مع تثبيت حالي لـ ArgoCD أو Prometheus أو Istio.

الشكل 1. الهندسة المعمارية ذات الطبقات المنفصلة. تعمل طبقة الحوسبة في بيئة OCI الخاصة بالعميل على عنقود OKE؛ ويتصل tfy-agent للخارج بطبقة التحكم. لا يلزم وجود منافذ واردة على VCN.

شبكات الخوادم المخصصة: RDMA على OKE

تُعد الشبكة العنقودية لـ OCI هي طبقة الشبكات المتميزة التي تجعل التدريب الموزع واسع النطاق ممكنًا. نشرت Oracle قياسات داخلية تظهر زمن انتقال بميكروثانية من رقم واحد في هذه البنية — يصل إلى 2 ميكروثانية للعناقيد ذات الرف الواحد (single-rack)، وتتراوح عادةً بين 2.5 إلى 9 ميكروثانية عبر العناقيد الفائقة متعددة الرفوف (multi-rack superclusters) — باستخدام RoCE v2 عبر بطاقات NVIDIA ConnectX SmartNICs. تعتمد الأرقام الفعلية في الإنتاج على المخطط الهندسي للعنقود، وحجم الرسالة، والتنافس؛ ويغطي مقال First Principles من Oracle التصميم الأساسي.

لاستخدام RDMA بشكل فعال، يجب أن يتحقق أمران:

  • يجب أن تكون العقد في نفس الشبكة العنقودية لـ OCI. تكشف OCI عن تسميات المخطط الهندسي (topology labels) على عقد OKE — oci.oraclecloud.com/rdma.local_block_id وnetwork_block_id وhpc_island_id — ويوضح دليل oci-hpc-oke quickstart من Oracle كيفية استخدامها مع الجدولة الواعية بالمخطط الهندسي في Kueue للحصول على أفضل أداء لـ NCCL. بالنسبة للتدريب المترابط وثيقًا، يُفضل وضع كبسولات (pods) التدريب في نفس البلوك المحلي (Local Block).
  • يجب أن تصل كبسولة التدريب إلى أجهزة RDMA. على عقد H100 في OCI، يكشف برنامج تشغيل Mellanox/NVIDIA عن أجهزة RDMA تحت /dev/infiniband/ (تسمية المسار تعكس API الخاصة بـ IB verbs الأساسية، على الرغم من أن النقل هو RoCE v2 عبر Ethernet).

يبدو نمط الكبسولة القياسي من دليل البدء السريع لـ Oracle كما يلي:

هذه الصلاحيات المرتفعة — privileged: true، IPC_LOCK، وشبكات المضيف (host networking) — خاصة بأعباء عمل HPC/RDMA. في الإنتاج، قم بعزل هذه الكبسولات في مساحات أسماء (namespaces) مخصصة لـ GPU مع سياسات قبول (مثل ضبط Pod Security Admission على privileged في مساحة الأسماء، وrestricted في الأماكن الأخرى؛ أو سياسة OPA/Kyverno المعتمدة على التسميات) حتى لا ترث أعباء العمل غير المرتبطة نفس السياق.

‍

الشكل 2. تدفق شبكة RDMA بين عقدتي H100 مخصصتين في نفس الشبكة العنقودية لـ OCI. تستخدم كبسولات التدريب حزمة RDMA في مساحة المستخدم (libibverbs) لإعداد أزواج زمام الانتظار (queue pairs) عبر dev/infiniband/؛ وبمجرد الإعداد، تتجاوز عمليات مسار البيانات النواة (kernel) وتقوم بطاقة ConnectX SmartNIC بتفريغ RoCE v2 على بنيان الشبكة العنقودية.

‍

دور TrueFoundry هنا هو جعل تشغيل كبسولات التدريب هذه جزءًا من سير عمل النشر الطبيعي — يمكنك تأليف عبء العمل، وتقدمه المنصة عبر Argo Workflows، ويقوم Prometheus بسحب مقاييس GPU من DCGM Exporter المرفق مع GPU Operator، ويقوم ArgoCD بإدارة إصدارات بيانات التعريف. يتم سحب الإشارات على مستوى عبء العمل مثل عدادات NCCL فقط عندما يكشفها التطبيق. يتم تكوين أجزاء RDMA الخاصة (مسارات hostPath، وIPC_LOCK، والتقارب مع المخطط الهندسي) في مواصفات الوظيفة الخاصة بك باتباع النمط القياسي أعلاه؛ المنصة لا تستبدل تلك الحقول، بل تقوم بنشر ما تحدده أنت.

بالنسبة للتدريب الموزع متعدد العقد تحديدًا، ستتولى عادةً تثبيت مشغل (operator) على العنقود عبر مخطط Helm الخاص به — MPI Operator للتشغيل القائم على MPIJob (مثل PyTorch DDP وDeepSpeed وNCCL)، أو Kubeflow Training Operator لـ PyTorchJob/TFJob، أو KubeRay للتدريب القائم على Ray. لا تدمج TrueFoundry هذه المشغلات افتراضيًا. بمجرد التثبيت، تقوم المنصة بنشر موارد MPIJob/PyTorchJob/RayJob تمامًا مثل أي عبء عمل آخر في Kubernetes، مع نفس ميزات GitOps وإمكانية الملاحظة. التدريب الموزع باستخدام RDMA على OCI ليس ميزة أساسية مستقلا في TrueFoundry اليوم — بل هو نمط تنفيذ يعتمد على بيانات التعريف المرجعية المنشورة من Oracle، حيث تتعامل المنصة مع الحزمة التشغيلية المحيطة بدلاً من التنسيق الخاص بـ RDMA نفسه.

توحيد الهوية: هوية أعباء العمل في OKE

بالنسبة لأنواع العناقيد المدعومة، توصي OCI الآن بـ OKE Workload Identity بدلاً من توزيع مفاتيح API طويلة الأجل على الكبسولات. تعمل هذه الآلية بشكل مشابه لـ AWS IRSA أو GKE Workload Identity: يتم تعيين Kubernetes ServiceAccount لسياسة OCI IAM، ويقوم OCI SDK باستبدال رمز ServiceAccount المسقط للكبسولة برمز وصول OCI قصير الأجل عند إجراء المكالمة. لا يوجد رمز اعتماد ثابت داخل الكبسولة.

قيدان مهمان من وثائق Oracle:

  • تعمل هوية أعباء العمل فقط على عناقيد OKE المحسّنة (Enhanced)، وليس العناقيد الأساسية (Basic).
  • المصادقة عبر هوية أعباء العمل مدعومة فقط من خلال حزم OCI SDK (Java وPython وGo وغيرها) — وليس عبر OCI CLI أو وحدة التحكم (Console).
الشكل 3. تسلسل المصادقة لـ OKE Workload Identity. يقرأ OCI SDK رمز ServiceAccount المسقط، ويستبدله برمز وصول OCI قصير الأجل عبر خدمة مصادقة OCI، ويستخدم هذا الرمز للمكالمات اللاحقة لخدمات OCI.

من جانب Kubernetes، ترتبط أعباء العمل بـ ServiceAccounts المحددة بمساحة الأسماء، ويمكن للمنصة أتمتة إنشائها كجزء من تدفق النشر. أما جانب OCI — سياسة IAM مع قاعدة request.principal.type='workload' ومحددات العنقود/مساحة الأسماء/حساب الخدمة — فيتم تكوينه وفقًا لإعداد Workload Identity القياسي من Oracle. بمجرد اكتمال الجانبين، تحصل عمليات النشر التي تتطلب الوصول إلى OCI على رموز قصيرة الأجل بشفافية من خلال SDK.

التخزين وتحميل النماذج

تمنحك خوادم OCI المخصصة خيارات تخزين متعددة لإدخال أوزان النماذج إلى VRAM. ولكل خيار ميزاته وعيوبه، وتعمل تجريدات التخزين في TrueFoundry (مثل PVCs وتضمين وحدات التخزين وحاويات التهيئة init containers) مع جميع هذه الخيارات — والنمط المناسب يعتمد على عبء العمل لديك:

  • Local NVMe. تأتي BM.GPU.H100.8 مزودة بـ 16 محرك أقراص NVMe SSD (بسعة 3.84 تيرابايت لكل منها، ~61 تيرابايت محلياً). بالنسبة لأعباء العمل التي تقوم فيها كل عقدة بتحميل نسختها الخاصة من الأوزان من ذاكرة تخزين مؤقت لنقاط التحقق (checkpoint cache)، فإن NVMe المحلي هو الخيار الأسرع — حيث لا توجد شبكة معنية في المسار السريع.
  • OCI File Storage Service (FSS) مع أهداف التثبيت عالية الأداء. توفر FSS HPMT تخزين ملفات من نوع RWX (ReadWriteMany) بإنتاجية عالية، ويمكن تثبيتها عبر العديد من العقد المخصصة في وقت واحد. هذا هو الخيار الطبيعي لتجريد التخزين في TrueFoundry، والذي تم بناؤه حول Kubernetes RWX PersistentVolumes. ممتاز لأوزان النماذج المشتركة، ومجموعات البيانات، وتخزين نقاط التحقق أثناء التدريب. تقدم Oracle أيضًا خدمة ملفات Lustre إدارة بالكامل للحالات ذات الإنتاجية العالية جدًا.
  • OCI Block Volume (متعدد التوصيل). يمكن توصيل وحدة تخزين كتلية واحدة كقابلة للمشاركة للقراءة فقط لما يصل إلى 32 خادماً داخل نفس نطاق التوفر (Availability Domain). يتم قياس الأداء لكل وحدة تخزين (مشاركة عبر جميع الخوادم الموصولة)، وتستخدم الخوادم المخصصة iSCSI مع مسارات متعددة للتوصيل. مفيد عندما يكون لديك نموذج ثابت تريد أن تقوم كل عقدة في الوظيفة بتثبيته كقرص قراءة فقط يبدو محليًا، دون المرور عبر طبقة نظام الملفات.
  • OCI Object Storage. سحب الأوزان من Object Storage عند بدء تشغيل الكبسولة، إلى NVMe المحلي أو الذاكرة. هو النمط الأبسط؛ ويعمل بشكل جيد مع خطافات حاويات التهيئة (init-container hooks) في TrueFoundry. تحصل كل كبسولة على نطاق ترددي مستقل، وهو ما يتفوق غالبًا على مشاركة ميزانية IOPS لوحدة تخزين واحدة عبر العديد من القراء.

يعتمد النمط المناسب على عبء العمل. بالنسبة لغالبية عمليات التدريب، فإن NVMe المحلي (للبينات المؤقتة السريعة) بالإضافة إلى FSS (لنقاط التحقق والأوزان المشتركة) يمثلان الإعداد المعتمد للإنتاج. يُعد التوصيل المتعدد لـ Block Volume خيارًا للحالات الخاصة التي يحتاج فيها مورد واحد غير قابل للتغيير إلى أن يظهر كقرص محلي لعديد من القراء.

الاعتبارات التشغيلية

إن تشغيل أعباء عمل GPU على خوادم OCI المخصصة باستخدام العناصر الأساسية لـ OCI فقط أمر ممكن — توفر Oracle حزمة HPC مستندة إلى Terraform ودليل oci-hpc-oke quickstart — ولكنه يجعلك مسؤولاً عن طبقة تشغيلية كبيرة لـ Kubernetes. يوضح الجدول أدناه ما تضيفه TrueFoundry فوق ذلك.

المهمة OCI / OKE الأساسي مع TrueFoundry على OKE
التهيئة الأولى للعنقود (Cluster bootstrap) توفير عنقود OKE + مجمعات عقد GPU + صور مجهزة بـ RDMA عبر Terraform / Resource Manager نفس إعداد OKE + مجمع العقد، بالإضافة إلى التدفق العام لإرفاق طبقة الحوسبة في TrueFoundry — تثبيت الوكيل والملحقات القائم على Helm والمولد عبر واجهة المنصة
التدريب الموزع تثبيت MPI Operator / Training Operator / KubeRay عبر Helm؛ تأليف بيانات التعريف لـ MPIJob/PyTorchJob/RayJob مع مسارات hostPath والتقارب مع مخطط RDMA نفس تثبيت المشغل (عبر Helm) ونفس بيانات التعريف؛ تتعامل المنصة مع دورة حياة النماذج وإدارة إصدارات GitOps وسجل التشغيل وإمكانية الملاحظة المدعومة بـ Prometheus — وليس تثبيت المشغل نفسه
الوصول إلى أوزان النماذج تثبيت FSS أو Block Volume أو السحب من Object Storage؛ ربط حاويات التهيئة يدويًا تجريدات Kubernetes PVC القياسية وخطافات حاويات التهيئة المدارة عبر واجهة المنصة
هوية أعباء العمل (Workload identity) إنشاء سياسة OCI IAM وServiceAccount وتكوين SDK إنشاء ServiceAccount من خلال الواجهة؛ ويتم تكوين ربط OCI IAM وفقًا لإعداد Workload Identity القياسي من Oracle
التحجيم التلقائي (Autoscaling) تكوين OKE Cluster Autoscaler وتحجيم مجمع عقد GPU يدويًا يتم تحفيز OKE Cluster Autoscaler بواسطة طلبات موارد Kubernetes؛ بينما يقود KEDA + Prometheus التحجيم التلقائي على مستوى التطبيق والتحجيم إلى الصفر (scale-to-zero)
صحة GPU تثبيت NVIDIA GPU Operator وتكوين DCGM يتم نشر وتعيين GPU Operator بواسطة الوكيل؛ وتتم كشط مقاييس DCGM Exporter بواسطة kube-prometheus-stack للمنصة وتظهر في واجهة الملاحظة

النمط ثابت: توفر OCI الحوسبة المخصصة وعناصر الشبكة الأساسية؛ بينما توفر TrueFoundry الطبقة التشغيلية لـ Kubernetes في الأعلى.

الخاتمة

منصة TrueFoundry على OCI هي منصة أصيلة لـ Kubernetes تعمل على حزمة الخوادم المخصصة من Oracle. طبقة الحوسبة هي عنقود OKE الخاص بك، وتستخدم أعباء العمل شبكة عنقود RoCE v2 الخاصة بـ OCI وهوية أعباء العمل من خلال أنماط Kubernetes القياسية، بينما تقوم المنصة بتجميع الطبقة التشغيلية المفتوحة المصدر والتابعة لـ CNCF — مثل GitOps وإمكانية الملاحظة والتحجيم التلقائي ومشغل GPU — في نشر مُدار. النتيجة هي تقليل الأعباء الإضافية لهندسة المنصات لتشغيل أعباء عمل GPU على الخوادم المخصصة، مع الحفاظ على شفافية التكوينات الخاصة بـ OCI بدلاً من إخفائها.

المسار العملي للتقييم هو إنشاء نشر مرجعي على عنقود OKE صغير — عادة عقدة أو عقدتان من فئة BM.GPU بالإضافة إلى مجمع CPU لملحقات المنصة — للتحقق من صحة الهندسة المعمارية قبل التوسع إلى عنقود فائق (Supercluster) كامل.

‍

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

No items found.
Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

مقارنة بين LangChain وLangGraph: أيهما الأفضل لك؟

مقارنة
A detailed guide on Claude Fable 5
November 16, 2026
|
5 min read

كلود فيبل 5: واجهة برمجة التطبيقات، المعايير، التسعير وكيفية استخدامه

الهندسة والمنتج
openrouter vs litellm
November 16, 2026
|
5 min read

LiteLLM مقابل OpenRouter: أيهما الأنسب لك؟

مقارنة
November 16, 2026
|
5 min read

معمارية المحول في نماذج اللغة الكبيرة

مصطلحات LLM
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour