منع فقدان البيانات لحركة مرور نماذج اللغة الكبيرة (LLM): أين يجب أن توضع؟
.png)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support

TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.


Recent Blogs
Frequently asked questions
ما هي حماية البيانات من التسرب (DLP) لحركة بيانات LLM؟
فحص البيانات الحساسة والتحكم فيها قبل أن تغادر محيطك ضمن تعليمات أو استدعاء أداة أو رد من النموذج. وتختلف عن DLP التقليدية لأنه لا يوجد ملف ولا وجهة غير مصرّح بها، فالحمولة هي JSON داخل جلسة TLS إلى واجهة API تدفع مقابلها. ويجب أن تفهم الضوابط مخطط الطلب وأن تقع عند نقطة تحكم موثَّقة للبيانات الخارجة.
لماذا لا ترصد أنظمة DLP الشبكية التقليدية حركة بيانات LLM؟
تتضافر ثلاثة أسباب. الوجهة مدرجة في قائمة السماح عن قصد، فلا تُفعَّل قواعد الوجهة أبداً. والمحتوى موجود في مصفوفة محادثة متداخلة لا في ملف أو حقل نموذج، وهو ما تحلله المحركات الموجهة للمستندات بشكل ضعيف. ومن دون فحص TLS لا يوجد ما يمكن تحليله، وحتى الخادم الوسيط الذي يجري الفحص لا يستطيع معرفة الجهة التي أرسلت الطلب.
هل يمكن لبوابة الذكاء الاصطناعي حظر الطلبات التي تحتوي على بيانات شخصية (PII)؟
يعتمد ذلك على أداة الكشف. خاصية كشف PII / PHI المدمجة في TrueFoundry تعمل بوضع التعديل فقط، فهي تحجب البيانات دائماً ولا ترفض الطلب أبداً. وللحظر الصارم تحتاج إلى تكامل قادر على التحقق، مثل AWS Bedrock Guardrails أو Azure PII أو CrowdStrike. وعبارة «كشف PII» في قائمة المزايا لا تخبرك أبداً هل النتيجة حجب للبيانات أم خطأ 400.
هل يمكنني نشر TrueFoundry في VPC الخاصة بي أو محلياً؟
نعم. تعمل TrueFoundry في VPC الخاصة بك أو محلياً أو في بيئة معزولة عن الشبكة أو هجينة، فلا تغادر التعليمات والردود نطاقك أبداً حتى وأنت توجّه الطلبات عبر مزوّدين كثيرين.
هل تدعم TrueFoundry بروتوكول MCP ووكلاء الذكاء الاصطناعي عموماً؟
نعم. تتضمن MCP Gateway وAgent Gateway وMCP & Agents Registry مع تحكم في الوصول على مستوى الأدوات. ويمكن حوكمة الوكلاء المبنيين على LangGraph أو CrewAI أو AutoGen أو إطار عمل مخصص مركزياً.
هل يتكامل مع حزمة المراقبة الحالية لدي؟
نعم. البوابة متوافقة مع OpenTelemetry وتتكامل مع Grafana أو Datadog أو Prometheus أو حزمتك المفضلة. فهي تتتبع كل طلب من المطالبة إلى تنفيذ الأداة والنموذج، لتحصل على تسجيل موحد دون الحاجة إلى تغيير ما تستخدمه حاليًا.











.png)
.png)
.png)

.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)

.png)





