TrueFoundry AI Gateway على VMware Cloud Foundation
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
حوكمة AI للمؤسسات — على بنيتك التحتية، وتحت سيطرتك
التحدي
يتطور الذكاء الاصطناعي بسرعة فائقة. تجري وحدات الأعمال تجارب على النماذج اللغوية الكبيرة (LLMs) من مزودين متعددين، وتنشئ اشتراكات بشكل مستقل، وتوجه البيانات المؤسسية الحساسة عبر APIs التابعة لـ السحابة العامة — وغالباً ما يحدث ذلك دون أي رؤية، أو ضوابط للإنفاق، أو سجلات تدقيق. وفي الوقت نفسه، لا يمكن للقطاعات الخاضعة للأنظمة واللوائح إرسال البيانات المملوكة لشركاتها خارج المحيط المؤسسي. ونتيجة لذلك، يواجه فريق IT وفرق الأمن صعوبة في إدارة مساحة AI المتوسعة وغير الخاضعة للحوكمة، دون وجود طريقة عملية لتطبيق السياسات، أو تتبع التكاليف، أو ضمان Compliance. والنتيجة: انتشار عشوائي لـ AI، ومخاطر على الميزانية، وتكشف غير مقبول للبيانات.
الحل
يوفر TrueFoundry AI Gateway نقطة وصول واحدة ومحكومة مركزياً لجميع تفاعلات نماذج AI عبر المؤسسة. سواء كان الفريق يستخدم نموذجاً محلياً (On-premises) لأحجام العمل الحساسة أو مزود سحابي للإنتاجية العامة، فإن كل طلب يمر عبر نقطة نهاية موحدة — يتم مراقبتها، ونسبها لمصدرها، والتحكم فيها حسب السياسات.
من جانبها، تقدم منصة VMware Cloud Foundation (VCF) السحابية الخاصة المخصصة للمؤسسات، والتي تجعل AI السيادي ممكناً. تم بناء VCF على vSphere وvSAN وNSX، وهي تشغل أحجام عمل الإنتاج بالكامل محلياً (On-premises) مع الاتساق التشغيلي الذي تتوقعه المؤسسات. كما توفر خدمة Kubernetes الخاصة بـ VCF المسماة (VKS) البنية التحتية للحوسبة التي يتم عليها نشر TrueFoundry AI Gateway وإدارته.
ويقدم الحل المشترك منصة AI جاهزة للإنتاج وقابلة للتدقيق تُبقي كل تفاعل مع النماذج داخل البنية التحتية الخاصة بالعميل — دون أي اعتماد على الخدمات السحابية الخارجية للحوكمة، أو تسجيل السجلات (Logging)، أو تطبيق السياسات.
القدرات الرئيسية
تم التحقق من صحة جميع القدرات المذكورة أدناه على VMware Cloud Foundation باستخدام vSphere Kubernetes Service.
- وصول موحد للنماذج — توزع نقطة نهاية API واحدة الطلبات على أي مزيج من نماذج AI المحلية (On-premises) والسحابية. تستخدم الفرق واجهة قياسية واحدة بغض النظر عن النموذج المنشور خلفها، سواء اليوم أو في المستقبل.
- رؤية كاملة للاستخدام — يتم تسجيل كل طلب واستجابة بالكامل، وتخزينها محلياً (On-premises)، وإمكانية الاستعلام عنها في الوقت الفعلي. تعرض لوحات قيادة مراقبة AI اتجاهات الاستخدام، وأداء النماذج، وتفاصيل التكاليف حسب الفريق، أو المشروع، أو الفرد.
- ضوابط الميزانية ومعدل الاستخدام (Rate Controls) — يتم فرض حد أقصى للإنفاق لكل فريق ولكل نموذج عند البوابة قبل أن يصل الطلب إلى النموذج. وعند الوصول إلى حد الميزانية، يتم حظر الوصول تلقائياً — دون الحاجة إلى أي تدخل يدوي.
- حواجز حماية المحتوى (Guardrails) — تفحص الفلاتر القائمة على السياسات كل Prompt قبل وصوله إلى النموذج. يمكن للقواعد حظر مواضيع أو كلمات رئيسية أو فئات محددة من المحتوى، مما يمنح فرق Compliance والفرق القانونية سيطرة مباشرة على ما ستعالجه طبقة AI وما لن تعالجه.
- التخزين المؤقت الذكي للاستجابات (Caching) — يتم الرد على الاستعلامات المتكررة من الـ Cache بتكلفة صفرية للـ Tokens، مما يقلل من الإنفاق على APIs وزمن استجابة Response بما يصل إلى 67 ضعفاً مقارنة باستدعاء النموذج المباشر.
المزايا التجارية
سيادة البيانات (Data Sovereignty) حركة مرور AI لا تغادر المحيط المؤسسي أبداً. تعمل جميع تفاعلات النماذج، والسجلات، وسياسات الحوكمة داخل VCF. بالنسبة للخدمات المالية، والرعاية الصحية، والدفاع، والقطاعات الأخرى الخاضعة للأنظمة، يعد هذا هو المسار العملي الوحيد لتبني AI على مستوى المؤسسات.
مساءلة التكاليف يتم تتبع استخدام Tokens على مستوى الطلب الفردي ونسبته إلى الفريق أو المشروع الذي أنشأه. يمكن لفرق المنصات إنشاء تقارير دقيقة لاسترداد التكاليف (Chargeback) عبر كل وحدة أعمال — باستخدام بنيتهم التحتية الخاصة، دون الاعتماد على APIs الفوترة الخاصة بمزودي السحابة.
البساطة التشغيلية يتم نشر TrueFoundry AI Gateway على بنية VCF التحتية الحالية دون الحاجة إلى حسابات سحابية جديدة، أو مزودي SaaS إضافيين، أو واجهات إدارة منفصلة. منصة واحدة موحدة تحكم جميع عمليات الوصول إلى AI من لوحة قيادة قائمة على الويب، مما يقلل من الأعباء التشغيلية لفرق IT التي تدير VCF بالفعل.
حالات الاستخدام
لماذا VCF وTrueFoundry
تعد VMware Cloud Foundation الأساس الموثوق للسحابة الخاصة للمؤسسات — حيث تقدم اتساق البنية التحتية، والأمان، والنطاق التشغيلي الذي تعتمد عليه المؤسسات الكبرى. بينما توفر TrueFoundry طبقة حوكمة AI التي كانت تفتقدها إدارة IT في المؤسسات: منصة جاهزة للإنتاج للتحكم في كل تفاعل مع AI ومراقبته ونسبه عبر المؤسسة.
هذا الجمع يردم الفجوة بين طموح AI وواقع المؤسسات. يمكن للمؤسسات التحرك بسرعة مع AI — بالتوجيه إلى النماذج السحابية لتحقيق المرونة والنماذج المحلية (On-premises) للبيانات الحساسة — مع الحفاظ على التحكم في البيانات، والإنضباط في التكاليف، وقدرات التدقيق التي تتطلبها البيئات الخاضعة للأنظمة واللوائح.
معتمد على VMware Cloud Foundation
تم نشر والتحقق من صحة جميع القدرات الموصوفة في هذا الموجز على VMware Cloud Foundation مع vSphere Kubernetes Service. ويجري حالياً تطوير هندسة مرجعية تقنية مفصلة ودليل نشر كجزء من هذه المبادرة المشتركة.
ابدأ الآن
لمعرفة المزيد حول نشر TrueFoundry AI Gateway على VMware Cloud Foundation، اتصل بـ فريق حلول منصة Broadcom AI أو تواصل مباشرة مع TrueFoundry على www.truefoundry.com.
© 2026 Broadcom Inc. جميع الحقوق محفوظة. VMware Cloud Foundation وvSphere هي علامات تجارية لشركة Broadcom Inc. وTrueFoundry هي علامة تجارية لشركة TrueFoundry, Inc.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.












.png)
.png)
.png)
.png)

.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.webp)
.webp)

.png)
.png)





