الترحيل من Bifrost: نقل بوابة ذكاء اصطناعي مستضافة ذاتياً إلى بوابة مُدارة
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
تُعد Bifrost بوابة ذكاء اصطناعي مفتوحة المصدر جيدة، وتبدأ العديد من الفرق باستخدامها لأسباب وجيهة: فهي مجانية وسريعة وتعمل في أي مكان. عادةً ما تكون أسباب انتقال الفرق لاحقاً من بوابة ذكاء اصطناعي مستضافة ذاتياً تشغيلية وليست وظيفية. إذ يتعين على شخص ما تشغيل العنقود (Cluster)، والحفاظ على توفر قاعدة بيانات PostgreSQL بشكل دائم، وإجراء التحديثات التي تتضمن تغييرات جذرية، والرد على مراجعات الأمان. عندما يتوقف هذا الجهد عن كونه مجدياً، يصبح السؤال هو كيفية الانتقال دون تعطيل أي تطبيق يتصل بالبوابة.
هذا الدليل هو الخطة التي نتبعها. فهو يربط مفاهيم Bifrost ببوابة مُدارة (نستخدم بوابة TrueFoundry AI كوجهة)، ويسرد التغييرات المطلوبة من جانب العميل، ويضع مساراً للتحويل مع إمكانية التراجع. كما يغطي ما لا يمكن نقله، حتى تتمكن من تقدير حجم العمل بوضوح.
نوضح في هذا الدليل المواضع التي نعتمد فيها على خبرتنا الخاصة، بدءاً من تشغيل Bifrost OSS الإصدار 2.0.0 وحتى تثبيت بوابة TrueFoundry في عنقودنا الخاص في أكتوبر 2026.
متى يتوقف الاعتماد على بوابة ذكاء اصطناعي مستضافة ذاتياً عن كونه مجدياً؟
تُعد النسخة المجانية من Bifrost بوابة متكاملة، لذا نادراً ما تكون الفجوات في الميزات هي السبب وراء الانتقال. وعادة ما تكون الأسباب كالتالي:
- تحتاج إلى أكثر من عقدة (Node) واحدة. لا تتشارك نسخ Bifrost مفتوحة المصدر في الحالة. فهي تقرأ نفس ملفات الإعدادات الثابتة،
config.jsonوتحتاج إلى إعادة تشغيل مع كل تغيير، كما تحتفظ بالميزانيات، وعدادات تحديد معدل الاستخدام، وإلغاء المفاتيح لكل حاوية (Pod) على حدة. أما المزامنة المباشرة فهي متاحة فقط في نسخة المؤسسات. - مراجعة الأمان. تعد ميزات الدخول الموحد (SSO)، والتحكم في الوصول القائم على الأدوار (RBAC)، وسجلات التدقيق، وإدارة الأسرار عبر Vault، وضوابط الحماية ميزات خاصة بنسخة المؤسسات، وتُسعّر حسب الطلب. لا توجد هويات للخدمات في أي من النسختين؛ حيث تعتمد الخدمات على مفاتيح افتراضية طويلة الأمد.
- التحديثات. تضمن الإصدار 1.5.0 ستة عشر تغييراً جذرياً وترقيات لقاعدة البيانات لا يمكن التراجع عنها. يجب على شخص ما قراءة كل ملاحظات الإصدار وإجراء نسخ احتياطي لقاعدة بيانات PostgreSQL قبل كل عملية تحديث.
- نظام المناوبة (On-call). تقع البوابة في مسار كل استدعاء للنموذج. إذا تعطلت في الساعة الثانية صباحاً، فستكون أنت المسؤول عن إصلاحها.
إذا كان اثنان أو أكثر من هذه الأسباب ينطبق عليك، فإن تكلفة البوابة المُدارة عادة ما تكون أقل من تكلفة الوقت الهندسي المستهلك. مقالاتنا حول تسعير Bifrost و Bifrost للمؤسسات مقابل النسخة مفتوحة المصدر تناول حسابات التكلفة بين الشراء والتشغيل الذاتي بمزيد من التفصيل.
اختر نموذج النشر أولاً
تتضمن "الإدارة" أكثر من شكل، ويحدد اختيارك حجم العمل المطلوب للبنية التحتية أثناء عملية الترحيل. توفر TrueFoundry ثلاثة خيارات (خيارات النشر):
لقد استخدمنا الخيار الأوسط في تقييمنا الخاص. يتم تثبيت مستوى البوابة (gateway plane) من خلال مخطط Helm ويتم التحقق من هويته لدى مستوى التحكم باستخدام رمز مميز للبوابة؛ حيث يتم تكوين النماذج وقواعد التوجيه والوصول في مستوى التحكم ومزامنتها مع البوابة. كما يقوم المخطط بنشر حاوية Redis بجانب البوابة. المتطلبات الأساسية هي Kubernetes 1.27 أو أحدث، ووحدات تخزين كتلية (block-storage)، ونطاق وشهادة لنقطة نهاية البوابة، ورمز سري لسحب الصور من TrueFoundry، واتصال صادر من العنقود (cluster) إلى عنوان URL الخاص بمستوى التحكم (نشر مستوى البوابة). الاستضافة الذاتية لمستوى البوابة متاحة ضمن فئة المؤسسات (Enterprise) من TrueFoundry.
الخطوة 1: جرد ما يقوم به Bifrost حالياً
تأتي معظم مفاجآت الترحيل من إعدادات لا يتذكر أحد كتابتها. قبل إنشاء أي شيء في البوابة الجديدة، قم بإدراج ما يلي:
- المزودون والمفاتيح: كل مزود، وكل مفتاح، وأوزان المفاتيح، ونقاط النهاية المخصصة مثل vLLM أو Ollama.
- المفاتيح الافتراضية: المالك (الفريق، أو العميل، أو لا يوجد)، والمزودون والنماذج المسموح بها، والميزانيات، وحدود المعدل، والوصول إلى أدوات MCP، وتاريخ الانتهاء.
- التوجيه: تكوينات المزود الموزونة، وسلاسل التراجع (fallback)، وإعدادات إعادة المحاولة، وكل قاعدة توجيه CEL، مع نطاقها وأولويتها.
- MCP: خوادم MCP المتصلة، ومجموعات الأدوات، وأنماط المصادقة الخاصة بها.
- المراقبة: إعدادات تسجيل المحتوى، وOTel والموصلات الأخرى، وفترة الاحتفاظ بالبيانات، وأي لوحات تحكم أو تنبيهات مبنية على
bifrost_*من المقاييس. - الإضافات (Plugins): إضافات Go المخصصة، والتخزين المؤقت الدلالي (semantic caching)، وإضافة Maxim.
- المتصلون (Callers): كل تطبيق، ومجموعة تطوير البرمجيات (SDK) التي يستخدمها، ومسار Bifrost الذي يستدعيه (سواء كان متوافقاً مع OpenAI أو مساراً أصلياً للمزود)، وأي
x-bf-*ترويسات (headers) يرسلها.
إذا كنت تشغل Bifrost باستخدام ملف إعدادات، config.json فستجد معظم هذه القائمة هناك. أما إذا كنت تستخدم مخزن إعدادات يعتمد على قاعدة بيانات، فاقرأ البيانات من خلال واجهة برمجة تطبيقات الإدارة (management API) بدلاً من واجهة المستخدم، لضمان عدم تفويت أي شيء.
الخطوة 2: تعيين مفاهيم Bifrost إلى البوابة الجديدة
التعيين أدناه هو جوهر عملية الترحيل. سلوك Bifrost مستمد من وثائق Bifrost؛ أما سلوك TrueFoundry فهو مستمد من وثائق TrueFoundry المرتبطة في كل صف.
إعادة كتابة قواعد توجيه CEL
قواعد CEL هي الجزء من إعدادات Bifrost الذي لا يمكن ترجمته آلياً. قم بتصنيف كل قاعدة بناءً على وظيفتها الفعلية:
- تقسيم حركة المرور أو التبديل عند الفشل (failover) (الأهداف الموزونة، والبدائل الاحتياطية): تتحول إلى نموذج افتراضي.
- التوجيه حسب الفريق أو البيئة (على سبيل المثال، ترويسة مثل
x-environment): تتحول إلى نموذج افتراضي منفصل لكل بيئة، مع منح حق الوصول للفريق المناسب، أو سياسات محددة النطاق حسب البيانات الوصفية. - الاستجابة لاستخدام الميزانية (نقل حركة المرور إلى نموذج أرخص بعد تجاوز حد معين): تتحول إلى قاعدة ميزانية بالإضافة إلى خيار احتياطي، أو قرار يتم اتخاذه داخل التطبيق نفسه.
- أي شيء آخر: دوّنه وقرر ما إذا كان ينتمي إلى البوابة من الأساس.
الخطوة 3: تغيير العملاء
بالنسبة للتطبيقات التي تستخدم حزمة تطوير برمجيات (SDK) OpenAI، يتطلب التغيير تعديل ثلاث قيم: عنوان URL الأساسي، ومفتاح واجهة برمجة التطبيقات (API key)، واسم النموذج.
بضع نقاط يجب التحقق منها لكل متصل:
- المصادقة تصبح إلزامية. في اختباراتنا، كان التثبيت الافتراضي لـ Bifrost OSS يقبل الطلبات بدون بيانات اعتماد، لذا قد لا يكون بعض المتصلين الداخليين قد أرسلوا أي بيانات اعتماد من قبل. كل طلب في TrueFoundry يحمل رمز وصول (bearer token). ابحث عن هؤلاء المتصلين قبل عملية الانتقال، وليس أثناءها.
- المسارات الأصلية للمزود. إذا كان المتصل يستخدم مسارات Bifrost المتوافقة مع Anthropic أو Gemini أو Bedrock باستخدام حزمة تطوير البرمجيات الخاصة بالمزود، فتحقق من دعم حزمة تطوير البرمجيات الأصلية للوجهة. تدعم TrueFoundry حزم تطوير البرمجيات OpenAI وAnthropic وGoogle Gen AI وAzure OpenAI وboto3، مع دعم تكوين التوجيه للبعض دون الآخر (دعم حزمة تطوير البرمجيات الأصلية).
- شكل الاستجابة. عندما وجهنا حزمة تطوير البرمجيات Python الخاصة بـ OpenAI إلى Bifrost v2.0.0، تطابقت أربعة من أصل ستة سيناريوهات مع OpenAI تماماً؛ بينما اختلفت أدوار البث (streaming role)، وlogprobs، وشكل الخطأ. قد تحتاج التعليمات البرمجية التي تحلل نصوص الخطأ في Bifrost أو تتعامل مع مراوغات البث الخاصة به إلى تعديل عند التحدث إلى بوابة مختلفة. اختبر معالجة الأخطاء، وليس فقط المسار السليم.
- اختلافات المزودين لا تختفي. في اختباراتنا لـ Bifrost، أنتج نفس شكل الطلب صرامة مختلفة في مخطط الأدوات (tool-schema)، ومعايير استدلال، وأخطاء تقاعد النماذج عبر المزودين. هذا صحيح خلف أي بوابة، لذا احتفظ باختبارات العقود الخاصة بكل مزود في نظام التكامل المستمر (CI) الخاص بك.
الخطوة 4: الانتقال تدريجياً، مع توفير طريق للعودة
- قم بإعداد البوابة الجديدة بجانب Bifrost. أعد إنشاء المزودين، والنماذج، والحسابات الافتراضية، والميزانيات في وضع التدقيق، وحدود المعدل، وحواجز الحماية، وتكوينات التسجيل. اترك Bifrost دون تغيير.
- قم بتشغيل اختبارات العقود مقابل كلتا البوابتين: الدردشة مع البث وبدونه، واستدعاءات الأدوات، والمخرجات المهيكلة، والتضمينات (embeddings)، وحالات الخطأ، وكل مسار أصلي للمزود تستخدمه.
- انقل خدمة واحدة منخفضة المخاطر أولاً. قم بتبديل عنوان URL الأساسي والرموز المميزة وأسماء النماذج من خلال الإعدادات أو ميزة التبديل (feature flag)، بحيث يصبح الرجوع إلى الحالة السابقة مجرد عملية نشر وليس تعديلاً في الكود البرمجي.
- قارن النتائج لمدة أسبوع. يجب أن تتطابق أعداد الرموز المميزة والتكلفة المحسوبة لكل خدمة بين سجلات Bifrost ولوحة تحكم البوابة الجديدة. عادةً ما يشير وجود اختلاف إلى وجود خطأ في تسعير أو تعيين أسماء النماذج.
- انقل بقية الخدمات على دفعات، واترك الخدمات ذات الحجم الأكبر للنهاية. قم بتحويل الميزانيات من وضع التدقيق إلى وضع التنفيذ بمجرد تطابق الأرقام.
- أبقِ Bifrost قيد التشغيل في وضع القراءة فقط لفترة سماح للرجوع عن التغييرات، ثم قم بإلغاء مفاتيحها الافتراضية. في أنظمة OSS متعددة النسخ، لا ينتشر إلغاء المفتاح بين الحاويات (pods)، لذا أعد تشغيل كل نسخة بعد الإلغاء، أو ببساطة قم بإيقاف تشغيل Bifrost.
ما لا يتم نقله
- سجل الطلبات. مخطط قاعدة بيانات SQLite أو PostgreSQL الخاص بـ Bifrost ليس تنسيق تبادل مستقراً. إذا كنت بحاجة إلى السجل لأغراض التدقيق أو التقييم، فقم بتصديره عبر واجهة برمجة تطبيقات السجلات أو الموصلات الحالية لديك قبل إيقاف التشغيل، واحتفظ به خارج البوابة.
- إضافات Go المخصصة. يتم تجميع هذه الإضافات لتتوافق مع إصدار محدد من نواة Bifrost ولغة Go، لذا يتطلب نقلها إعادة كتابتها بالكامل.
- تعبيرات CEL، كما هو موضح أعلاه.
- محتويات ذاكرة التخزين المؤقت. تبدأ ذاكرات التخزين المؤقت الدلالية وذاكرات المطابقة الدقيقة فارغة (cold) على البوابة الجديدة.
- لوحات التحكم والتنبيهات المبنية على
bifrost_*أسماء المقاييس والتصنيفات. - رؤوس (Headers) خاصة بـ Bifrost مثل
x-bf-vk,x-bf-dim-*,x-bf-lh-*وتجاوز تسجيل السجلات لكل طلب. - موافقات OAuth الخاصة بـ MCP للاتصالات الخاصة بكل مستخدم؛ يحتاج المستخدمون إلى إعادة التفويض.
تحديات واجهناها في إعدادنا الخاص
تنتج هذه التحديات عن تثبيت مستوى بوابة TrueFoundry في مجموعتنا (cluster) وتوجيه حركة مرور الاختبار إليه.
- تُطبق قواعد الحماية على مستوى المستأجر على المتصلين الجدد فوراً. كان لدى مستأجرنا بالفعل قاعدة حماية لمعلومات التعريف الشخصية (PII)؛ وقد رُفضت طلبات الاختبار الأولى الخاصة بنا برمز الخطأ HTTP 400 حتى قمنا باستثناء الحساب الافتراضي للاختبار منها. راجع قواعد الحماية الحالية، وقم بتشغيل القواعد الجديدة في وضع التدقيق قبل نقل حركة مرور الإنتاج.
- تسجيل الطلبات مفعل افتراضياً. مع لوحة التحكم المستضافة، يرسل البوابة سجلات الطلبات إليها. يمكنك بدلاً من ذلك الاحتفاظ ببيانات الطلبات والاستجابات في حاوية (bucket) ضمن سحابتك الخاصة، كما يمكن لإعدادات التسجيل إيقاف تسجيل نص الطلب أو حجب المعلومات الحساسة فيه بناءً على الفريق أو النموذج أو البيانات الوصفية. اتخذ هذا القرار مع فريق الأمن لديك قبل إرسال أول طلب إنتاجي، وليس بعده.
- يتم تسجيل النماذج المستضافة ذاتياً تماماً مثل أي مزود آخر. لقد قمنا بتسجيل نقطة نهاية متوافقة مع OpenAI تعمل داخل مجموعتنا (cluster) كنموذج مستضاف ذاتياً وقمنا باستدعائها كـ
<account>/<model>. نقاط النهاية الداخلية لـ vLLM أو ما يشابهها التي تصل إليها عبر Bifrost اليوم تنتقل بنفس الطريقة. - حدد حجم الحاوية (pod) الإضافية. يعمل مخطط (chart) لوحة البوابة على تشغيل Redis بجانب البوابة. تأكد من تضمينه في خطة السعة والتكلفة الخاصة بك.
هل البوابة المُدارة مناسبة لك؟
ابقَ على Bifrost المستضاف ذاتياً إذا كنت تشغل عقدة واحدة، ولديك مهندسو منصة لإدارتها، ولا تحتاج إلى تسجيل دخول موحد (SSO) أو تدقيق أو هويات الخدمة.
انتقل إلى Bifrost Enterprise إذا كنت ترغب في البقاء على Bifrost والاستمرار في تشغيل البوابة بنفسك، ولكنك تحتاج إلى ميزات التجميع (clustering) والأمان. ستظل مسؤولاً عن المجموعة، وقاعدة بيانات PostgreSQL عالية التوفر، وعمليات الترقية.
انتقل إلى بوابة مُدارة إذا كان العبء التشغيلي هو المشكلة. اختر نموذج البرمجيات كخدمة (SaaS) إذا كانت سياسة بياناتك تسمح بذلك، أو اختر لوحة بوابة داخل مجموعتك الخاصة إذا كان يجب أن تظل حركة مرور النموذج داخل شبكتك.
لماذا تختار TrueFoundry كوجهة لك
- أنت تختار مستوى الإدارة الذي يناسبك. سواء كان ذلك عبر SaaS، أو لوحة بوابة في مجموعتك مع لوحة تحكم مستضافة، أو استضافة ذاتية بالكامل، بما في ذلك البيئات المعزولة (air-gapped).
- مزامنة الإعدادات هي جوهر البنية. حاويات البوابة (Gateway pods) عديمة الحالة وتتلقى الإعدادات والمستخدمين والحسابات الافتراضية وقواعد التفويض من لوحة التحكم في الوقت الفعلي؛ يتم إعادة نشر الإعدادات الكاملة كل 10 دقائق لضمان عدم حدوث أي تباين في حال ضياع تحديث ما، وتستمر البوابات في العمل بناءً على آخر إعدادات لديها إذا تعذر الوصول إلى لوحة التحكم (بنية مستوى البوابة). هذا يحل محل نموذج Bifrost الذي يتطلب إعادة تشغيل كل حاوية في إصدار المصدر المفتوح (OSS).
- هوية الخدمة مدمجة. تمنح الحسابات الافتراضية كل تطبيق رمزاً خاصاً به مع ميزة التدوير المجدول، وفترة سماح، ومزامنة مع مخزن الأسرار.
- السياسات كقواعد. الميزانيات، وحدود المعدل، وضوابط الحماية، والسجلات هي مجموعات قواعد منفصلة يتم مطابقتها بناءً على هوية المستخدم، والنموذج المستخدم، وبيانات الطلب الوصفية، مع توفر أوضاع التدقيق لضمان طرح آمن.
إذا كنت تخطط للانتقال من بوابة ذكاء اصطناعي مستضافة ذاتياً، احجز عرضاً توضيحياً وأردت جلب إعدادات Bifrost الخاصة بك؛ يمكننا مراجعة عملية التعيين معك. لرؤية المنتج أولاً، ابدأ من صفحة بوابة TrueFoundry للذكاء الاصطناعي .
قراءات ذات صلة
- تسعير Bifrost: النسخة مفتوحة المصدر، وتكاليف باقة المؤسسات، وما يجب أن تعرفه الفرق
- مقارنة بين Bifrost و LiteLLM
- ما هي بوابة النماذج اللغوية الضخمة (LLM Gateway)؟
- بوابة الذكاء الاصطناعي في الموقع (On-premise): كل ما تحتاج إلى معرفته
- بدائل LiteLLM
الخلاصة
إن الانتقال من بوابة ذكاء اصطناعي مستضافة ذاتياً لا يتعلق كثيراً بتغيير العميل، وهو أمر بسيط، بل يتعلق بإعادة إنشاء المفاتيح والسياسات والتوجيه بدقة، ثم الانتقال بخدمة واحدة في كل مرة مع توفير مسار للعودة. ابدأ بحصر الموارد أولاً، وقم بتعيين كل مفتاح افتراضي لهوية حقيقية، وأعد كتابة قواعد CEL عن قصد بدلاً من الاعتماد على الترجمة الآلية، وحافظ على تشغيل Bifrost حتى تتطابق الأرقام. إذا كنت ترغب في الحصول على مراجعة إضافية لعملية التعيين، احجز عرضاً توضيحياً لـ TrueFoundry.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.


















