تكامل TrojAI مع TrueFoundry

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
يسعدنا الإعلان عن تكامل استراتيجي بين TrueFoundry وTrojAI، يجمع بين طبقتين حاسمتين في البنية التحتية الحديثة للذكاء الاصطناعي:
- TrueFoundry AI Gateway، وهي لوحة تحكم للمؤسسات تتيح الوصول إلى LLM، وإمكانية الملاحظة، وتوجيه حركة المرور، وتحسين زمن الانتقال (Latency)
- TrojAI Defend AI Firewall، والذي يوفر أمانًا في الوقت الفعلي، وإنفاذ السياسات، والحماية ضد تهديدات الذكاء الاصطناعي في بيئة التشغيل (Runtime)
يعد هذا الشراكة أساسًا آمنًا، وقابلاً للملاحظة، وقابلاً للتوسع لنشر GenAI في بيئات الإنتاج.

فجوات الرؤية والتحكم في الذكاء الاصطناعي
تبني المؤسسات وتنشر GenAI في بيئات الإنتاج بسرعة متزايدة، لكن البنية التحتية الأساسية لم تواكب هذا التطور بعد. تعاني الفرق من تشتت الوصول إلى مزودي LLM المتعددين؛ ونقص الرؤية حول استخدام LLM، وزمن الانتقال، والإخفاقات؛ وحركة مرور الذكاء الاصطناعي المعقدة والدقيقة التي قد تثير تهديدات مثل Prompt Injections، وتسريب البيانات الحساسة، والتسمم (Toxicity). يجعل هذا الأمر أكثر صعوبة للمؤسسات التي تسعى لبناء ونشر الذكاء الاصطناعي بطريقة متسقة وآمنة وقابلة للتوسع. وهذه هي الفجوة التي تعالجها TrueFoundry وTrojAI معًا.
معيار جديد: AI Gateway + AI Defense
يقدم هذا التكامل فصلاً واضحًا للمسؤوليات يساعد المؤسسات على معالجة البنية التحتية لـ LLM وإدارة حركة المرور بالإضافة إلى أمان الذكاء الاصطناعي.
TrueFoundry: AI Gateway
تضم TrueFoundry لوحة تحكم موحدة لجميع حركة مرور الذكاء الاصطناعي، مما يتيح للفرق مركزية الوصول عبر أكثر من 250 نموذجًا من خلال API واحد؛ وإنفاذ المصادقة، وحدود المعدل (Rate limits)، والحصص (Quotas)؛ وملاحظة كل شيء. يشمل ذلك زمن الانتقال، والرموز (Tokens)، والتكاليف، والإخفاقات. في النهاية، يتيح هذا للمؤسسات تحسين الأداء والرؤية لعملاء الذكاء الاصطناعي والتطبيقات في المؤسسة من خلال واجهة واحدة شاملة.
TrojAI: AI Firewall
TrojAI هي منصة لأمان الذكاء الاصطناعي تساعد المؤسسات على تقييم مخاطر الذكاء الاصطناعي لديها من خلال اختبار الاختراق الآلي (Red teaming) والحماية ضد التهديدات النشطة في بيئة التشغيل. يعمل TrojAI Defend كوكيل إنفاذ مباشر في الوقت الفعلي، مما يضمن أن كل طلب واستجابة آمنان وممتثلان، مع قدرات للمنع، أو التعديل (Redact)، أو التمرير. بفضل محرك السياسات الشامل، يوفر TrojAI عددًا من مجموعات القواعد المدعومة بالذكاء الاصطناعي، مثل:
- الحماية ضد الهجمات العدائية (Adversarial protection) الشاملة لـ prompt injection، وjailbreak، وتسريب system prompt
- منع تسريب البيانات (PII، والأسرار، والملكية الفكرية)
- إشراف المحتوى السام وغير الآمن، بما في ذلك القواعد المخصصة
يعمل TrojAI في الوقت الفعلي وعلى نطاق واسع، مما يساعد المؤسسات العالمية على حماية أصول الذكاء الاصطناعي لديها مع تطور المشهد الأمني للتهديدات.
أفضل معًا: قابل للتوسع وآمن
منفردةً، تحل كل منصة مشكلة حاسمة. تساعد TrueFoundry المؤسسات على التحكم في حركة مرور الذكاء الاصطناعي ومراقبتها، مع قدرات رئيسية تشمل التحكم في الوصول، وإمكانية الملاحظة، والتوجيه الذكي لحركة المرور. بينما تلاحظ TrueFoundry حركة المرور، فإنها تتكامل بشكل أصلي مع TrojAI لمراقبة التهديدات المشبوهة والخبيثة والحماية منها. معًا، تنشئ المنصتان لوحة إدارة موحدة للذكاء الاصطناعي تمتد من التحكم إلى الإنفاذ. في حين أن TrueFoundry تحكم كيفية تدفق حركة المرور، تفحص TrojAI نوع حركة المرور المسموح بها.
وقال Lee Weiner، CEO في TrojAI: "من خلال التكامل مع AI Gateway الخاص بـ TrueFoundry، فإننا ندخل الإنفاذ في الوقت الفعلي مباشرةً إلى حركة مرور الإنتاج، بحيث يمكن للفرق التحرك بسرعة دون تعريض أنفسهم لـ prompt injection، وتسريب البيانات، ومحتوى الذكاء الاصطناعي غير المرغوب فيه. معًا، نحدد الشكل الذي يجب أن تكون عليه البنية التحتية الآمنة وجاهزة للإنتاج للذكاء الاصطناعي."
وقال Anuraag Gutgutia، CEO في TrueFoundry: "تحتاج المؤسسات إلى بنية تحتية للذكاء الاصطناعي لا تكون فيها الحوكمة والأمان مناقشتين منفصلتين. من خلال إدراج TrojAI Defend مباشرةً في TrueFoundry AI Gateway، نمنح الفرق بيئة إنتاج موحدة حيث يتم حوكمة كل طلب وحمايته في نفس الوقت. هذا هو الأساس لنشر عملاء الذكاء الاصطناعي بثقة وعلى نطاق واسع."
البدء مع TrueFoundry × TrojAI
يتوفر TrojAI بشكل أصلي في TrueFoundry، مما يجعل التكامل سريعًا ومباشرًا.
في وحدة تحكم TrojAI، ينشئ المستخدمون أولاً سياسة ويحددون مجموعات القواعد ذات الصلة لفحص حركة مرور التطبيق (مثل prompt injection، وتسريب البيانات). بمجرد إنشاء السياسة، يمكن للمستخدمين تمكين تكامل TrojAI داخل TrueFoundry عن طريق تقديم معرف العميل (Client ID) وعنوان URL للخدمة.

بمجرد التكوين داخل TrueFoundry، ترسل تطبيقات وعملاء الذكاء الاصطناعي الطلبات إلى AI Gateway. يمكن تهيئة TrueFoundry للمصادقة وتطبيق عناصر التحكم في الوصول؛ وتوجيه حركة المرور بناءً على زمن الانتقال، أو التكلفة، أو السياسة؛ والتقاط السجلات (Logs)، والمقاييس (Metrics)، والتتبعات (Traces).
يمكن نشر TrojAI إما كطبقة وكيل (Proxy) لإنفاذ حركة المرور في الوقت الفعلي أو كخدمة حواجز وقائية (Guardrails) لمراقبة حركة المرور المعتمدة على API. ومع توجيه الطلبات إلى TrojAI، يفحص TrojAI المدخلات (Prompts) للكشف عن النوايا الخبيثة وتطبيق سياسات الأمان والامتثال ذات الصلة.

تصل الطلبات المقبولة إلى مزود النموذج. وتُعاد الاستجابات عبر TrojAI ويتم إعادة تصفيتها للتأكد من خلوها من التسمم، أو المخرجات العدائية، أو تسريب البيانات الحساسة. ثم تُمرر الأحداث مجددًا إلى TrojAI للرؤية والمراقبة.

تسجل TrueFoundry دورة حياة التفاعل الكاملة من خلال قدراتها المدمجة لتمكين إمكانية الملاحظة والتوجيه. يشمل ذلك تسجيل الطلب/الاستجابة، وتتبع زمن الانتقال، ومراقبة الرموز (Tokens) والتكلفة، وإدارة الفشل (Failover) وموازنة الحمل (Load balancing).
مستقبل البنية التحتية للذكاء الاصطناعي
سيبنى مستقبل أنظمة الذكاء الاصطناعي على بنيات تحتية شاملة تجمع بين البوابات للتحكم والتوسع، والحماية في بيئة التشغيل (Runtime) للأمان والإنفاذ. مع TrueFoundry × TrojAI، أصبح هذا المستقبل واقعًا بالفعل.
يتيح هذا التكامل نشرًا أسرع في بيئة الإنتاج من خلال السماح للفرق بإطلاق تطبيقات GenAI دون إعادة بناء البنية التحتية أو الأمان من الصفر. كما يمنح رؤية كاملة، مما يوفر للفرق عرضًا موحدًا لكل طلب، إلى جانب مقاييس التكلفة وزمن الانتقال المرتبطة به، كل ذلك في مكان واحد. ومع الأمان المدمج بالتصميم، يمكن للمؤسسات الحماية من التهديدات الناشئة مثل prompt injection وتسريب البيانات. وفي الوقت نفسه، يحافظ على حرية استخدام النماذج المتعددة، مما يسهل التوجيه عبر الموردين دون التضحية بالحوكمة أو السلامة.
ابدأ الآن
- تعرف على المزيد حول TrueFoundry AI Gateway: https://www.truefoundry.com/ai-gateway
- تعرف على تكامل TrojAI: https://www.truefoundry.com/docs/ai-gateway/trojai
- تواصل مع TrojAI لتمكين حماية Defend AI Firewall في بنيتك التحتية: https://troj.ai/contact-us
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.














.webp)





.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






