تكامل Pangea مع AI Gateway من TrueFoundry

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
تتحرك فرق LLM الحديثة بسرعة، لكنها تحتاج أيضًا إلى أمان ذكاء اصطناعي عملي وحقيقي. لقد قمنا بالربط مع العديد من مزودي دروع الحماية (guardrails)، ونقدم تكاملاً آخر لعملائنا من المؤسسات - تكامل Pangea مع AI gateway من TrueFoundry، حتى تتمكن الفرق من اكتشاف prompt-injection وتنقيتها من البيانات الحساسة وتطبيق سياسات المحتوى دون إعادة تعديل بنيتها البرمجية.
ما هو Pangea (ولماذا يفضل ربطه مع AI Gateway)؟
يوفر Pangea مجموعة من خدمات الأمان القابلة للبرمجة والمصممة خصيصًا لأحمال عمل الذكاء الاصطناعي - وأبرزها AI Guard لاكتشاف المحتوى المنطوي على مخاطر وتطبيق السياسات، وRedact للإزالة التلقائية للبيانات الحساسة. ويقدم مفهوم الوصفات (recipes): وهي تكوينات حماية قابلة للإعادة الاستخدام تحددها في لوحة تحكم Pangea وتستدعيها من تطبيقك أو منصتك. إن إدخال Pangea في AI gateway الخاص بك يعني أنه يمكنك تطبيق إجراءات الحماية هذه على كل طلب واستجابة عبر مختلف المزودين والنيابة والموديلات والأدوات والوكلاء دون المساس بمسارات كود التطبيق.
لماذا يعتبر الأمان مهمًا لـ AI Gateway
- دفاعات مركزية. تطبيق دروع الحماية على مستوى المؤسسة عند AI gateway.
- بقاء البيانات في بيئتك. تتدفق حركة المرور عبر بيئتك المحكومة؛ وأنت من يقرر ما يتم تسجيله ومكانه.
- الدفاع العميق. اكتشاف عمليات الحفن (injections)، وإبطال مفعول الروابط المفرطة (URLs)، وحظر محاولات التسريب، وتنقيه PII قبل وصولها إلى الموديلات أو المستخدمين.
- البساطة التشغيلية. مكان واحد لربط بيانات الاعتماد، وصفحة سياسات واحدة لإدارة تشتت أقل وأمان ذكاء اصطناعي أكثر اتساقًا.
كيف يعمل التكامل
على مستوى عالٍ:
- إنشاء وصفة AI Guard في Pangea (على سبيل المثال، حظر prompt-injection، وتطهير عناوين URL، وتنقيه الأنماط).
- في TrueFoundry، أضف حارس Pangea إلى مسارك أو سياسة مؤسستك - ووجهه إلى نطاق Pangea، ونطاق المشروع، ومُعرّف الوصفة (recipe ID)؛ وأشر إلى API key المُخزن.
- يقوم AI gateway بالاتصال بـ Pangea بشكل مباشر ومباشر للـ prompts و/أو الـ completions، ثم يطبق القرار (سماح، حظر، تنقية، تحويل) قبل التوجيه إلى الموديل أو العميل.

أنواع الحماية المدعومة
يمكنك إرفاق فحوصات Pangea بأي من هذه المراحل:
- Prompt (قبل الموديل)
- Completion (بعد الموديل)
- Prompt & Completion (في الاتجاهين)
يتم تهيئتها كـ "حراس" (guards) في الـ gateway، مع اختيار Pangea كمزود.
إضافة تكامل Pangea
لإضافة تكامل Pangea، ابدأ بإدخال اسم لمجموعة دروع الحماية الخاصة بك ثم أضف أي متعاونين ينبغي أن يمتلكوا صلاحيات لإدارة أو استخدام هذه المجموعة. بعد ذلك، قم بتهيئة تكوين Pangea (Pangea Config) عبر منحها اسمًا وتحديد النطاق (domain) الخاص بمزود السحابة والمنطقة التي تم إعداد مشروع Pangea فيها. على سبيل المثال، إذا كان نقطة النهاية (endpoint) الخاصة بك هي https://<service_name>.aws.us-west-2.pangea.cloud/v1/text/guard، فإن النطاق الذي يجب إدخاله هو aws.us-west-2.pangea.cloud. يمكنك أيضًا اختياريًا تقديم مفتاح الوصفة (recipe)، الذي يشير إلى تكوين محدد مسبقًا في لوحة تحكم مستخدم Pangea يحدد القواعد التي يجب تطبيقها على النص، مثل إبطال مفعول عناوين URL الخبيثة. إذا كنت ترغب في تطبيق إعدادات مخصصة تتجاوز التكوين الافتراضي لحساب Pangea، يمكنك تفعيل التجاوزات (Overrides). بعد ذلك، اختر نوع الحارس (Guard Type) من القائمة المنسدلة، بناءً على نوع الحماية التي تريد تطبيقها.
أخيرًا، تحت بيانات اعتماد Pangea (Pangea Authentication Data)، قدم API Key المستخدم للمصادقة على الطلبات الموجهة إلى خدمات Pangea. هذا المفتاح مطلوب لكي يعمل التكامل، ويمكنك الحصول عليه من لوحة تحكم Pangea بالانتقال إلى لوحة معلومات مشروعك وفتح قسم Tokens أو API Keys. تأكد من الحفاظ على أمان هذا المفتاح، حيث إنه يمنح الوصول إلى خدمات Pangea الأمنية الخاصة بك.

كيف يبدو إنفاذ السياسات
- الحظر (Block): يتم إيقاف الطلب/الاستجابة مع تقديم سبب واضح ومسار كود للملحوظية (observability).
- التنقية (Redact): يتم إزالة الأجزاء الحساسة قبل توجيهها إلى LLM أو العميل (باستخدام Redact).
- التحويل (Transform): يمكن إبطال مفعول البنى غير الآمنة (مثل عناوين URL)، ثم تمريرها بآمان عبر AI gateway.
تكون جميع القرارات مرئية في سجلات الـ gateway الخاصة بك؛ كما تحتفظ Pangea بسجل تدقيق (audit trail) داخل مشروعك للتحقيقات والمراجعات.
بمجرد ربط Pangea بـ gateway، فإن أكبر مكسب تشغيلي هو الاتساق. لا يتعين على الفرق تذكر "تشغيل" الأمان في كل خدمة مصغرة (microservice) أو مسار عمل وكيل (agent workflow)، لأن نفس الفحوصات تطبق أينما تدفقت حركة المرور سواء كانت استكمال دردشة بسيط، أو استدعاء أداة بواسطة وكيل، أو خط أنابيب مدعوم بالاسترجاع (retrieval-augmented pipeline). هذا يقلل من تشتت السياسات بمرور الوقت ويسهل نشر حمايات جديدة (أو تشديد الحمايات الحالية) دون التنسيق لتغيير الكود عبر فرق متعددة.
كما أنه يحسن عمليات اليوم الثاني (day-two operations) عند حدوث خلل ما. عندما يبلغ مستخدم عن مخرجات غير آمنة أو سلوك مشبوه، يمكن لفرق المنصة تتبع الحارس الذي تم تفعيله بالضبط، والإجراء الذي تم اتخاذه، والمسار والموديل المشاركين - كل ذلك من سجلات الـ gateway وإشارات التدقيق. يجعل ذلك التحقيقات أسرع ويساعد فرق الأمان والذكاء الاصطناعي على بناء مسار عمل مشترك ومكرر لمراجعة الحوادث، وضبط الوصفات، والتحقق من التغييرات قبل وصولها إلى بيئة الإنتاج.
مع مرور الوقت، تتطور الفرق عادةً من "الحظر والتنقية الأساسيين" إلى سياسات أكثر دقة توازن بين السلامة وتجربة المستخدم. على سبيل المثال، قد تختار حظر محاولات prompt-injection الواضحة، وتنقية أنواع محددة من PII، وتحويل المحتوى المنطوي على مخاطر مثل عناوين URL أو قصاصات البرمجية، مع السماح لبقية الطلب بالمتابعة. ومع وصفات Pangea والتطبيق على مستوى الـ gateway، تصبح هذه التغييرات تحديثات في التكوين بدلاً من إعادة كتابة الكود، مما يتيح للفرق التكرار والتطوير في عناصر التحكم الأمني بنفس السرعة التي يطورون بها الـ prompts، والموديلات، وميزات المنتجات.
الأسئلة الشائعة
هل يضيف هذا زمن تجاهل (latency)؟
يتم الاتصال عند AI gateway؛ ومع التخزين المؤقت (caching) والوصفات الموجزة، يكون الحمل الإضافي عادةً صغيرًا مقارنة بزمن تجاهل الموديل نفسه.
هل اختيار الموديل مقيد؟
لا. تُطبق السياسات عبر جميع المزودين والموديلات لأنها يُنفذ عند حدود AI gateway.
هل يمكننا الدمج مع دروع حماية أخرى؟
نعم، يمكنك دمج Pangea مع حراس gateway إضافيين للحصول على أمان ذكاء اصطناعي متعدد الطبقات.
البدء
- اتبع وثائق TrueFoundry خطوة بخطوة لتهيئة Pangea. الرابط هنا
- راجع مفاهيم AI Guard في Pangea (الوصفات، والإجراءات) لتصميم السياسة المناسبة.
إذا كنت تقوم بتوسيع أحمال عمل LLM، فإن هذا الربط يمنحك نقطة تحكم مركزية ونظيفة: أمان ذكاء اصطناعي ينتقل مع كل استدعاء، و AI gateway حافظ على سرعة تطبيقاتك واتساقها وتوافقها.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.














.webp)





.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






