TrueFoundry مقابل Kong Gateway: ضريبة المنصة الخفية للحوكمة في الذكاء الاصطناعي

نادراً ما تكون مرحلة نقل أول نموذج AI إلى الإنتاج هي الجزء الأصعب. بل يظهر العبء التشغيلي عندما يطلب الفريق الثاني أو الثالث الوصول، وميزانية شهرية، وضاغطه التحكم نفسها التي يحصل عليها الجميع.

يمكن لكل من TrueFoundry وKong Gateway توجيه استدعاء النموذج. الفارق يكمن في ما يجب على فريق المنصة لديك بناؤه وصيانته حوله. تتعامل TrueFoundry مع وصول الفرق والميزانيات كعناصر تحكم أساسية ورئيسية. بينما تجمع Kong Gateway النتيجة نفسها من كيانات البوابة والإضافات (Plugins) وإعدادات التسعير. ويتضاعف هذا الفارق مع نمو اعتماد الذكاء الاصطناعي.

الملخص السريع

توفر لك TrueFoundry عناصر تحكم مباشرة للوصول إلى النماذج، وميزانيات الفرق، والأدوات المعتمدة. باستخدام Kong، يمكنك تجميع عناصر التحكم هذه من خلال إعدادات البوابة والإضافات، وهو ما يتطلب جهداً أكبر بنسبة 3 إلى 5 أضعاف لفريق المنصة لديك. إذا كنت تقارن بين TrueFoundry وKong Gateway، فانظر إلى ما هو أبعد من قائمة الميزات: فثمة شخص ما يتعين عليه صيانة تلك الإعدادات لفترة طويلة بعد انتهاء العرض التوضيحي.

بدء عمل فريق الدعم

نفترض أن النموذج متصل بالفعل. في TrueFoundry، تمنح الفريق إمكانية الوصول وتحدد ميزانيته. أما مع Kong، فإنك تربط هوية بوابة الفريق بمسار النموذج وتتولى تهيئة إضافة حد الإنفاق (spending-limit plugin). كما توفر أسعار النماذج التي يحتاجها لتتبع الاستخدام بالدولار، ثم تتحقق من أن الإعدادات تغطي طلبات الفريق. لا يوجد شيء غير قابل للمعالجة هنا، ولكنه عمل يتحمله فريق المنصة لديك.

يتراكم العمل مع انضمام المزيد من الفرق

بدأ فريق الدعم عمله بنجاح. ثم يطلب فريق المبيعات ميزانية أكبر، ويطلب فريق آخر إزالة تفاصيل العملاء من الموجهات (prompts). قبل تغيير إعداد مشترك، يحتاج المهندسون لديك إلى معرفة الفرق التي سيؤثر عليها.

في TrueFoundry، يمكنك إدارة الميزانيات حسب الفريق وتطبيق سياسات الأمان على حركة مرور الذكاء الاصطناعي ذات الصلة. يمكن لمديري الفرق تعديل ميزانياتهم الخاصة، مع احتفاظ المسؤولين بعناصر التحكم على مستوى الشركة بأكملها. وهذا يعطي التغييرات الروتينية في الميزانية مالكاً واضحاً.

مع Kong، يحدد المهندسون مكان تطبيق كل إضافة أمان (safety plugin) ويتحققون منها مقابل الإعدادات الحالية. هناك طرق لتقليل الجهد: تدعم Kong الإعدادات المشتركة والنشر الآلي. وتعد هذه الإجراءات مفيدة، خاصة إذا كان فريقك يعتمد على Kong بالفعل. ومع ذلك، لا تزال بحاجة إلى صيانة الإعدادات والاختبارات المحيطة بها، لذا يرجى مراعاة تخصيص ميزانية لوقت الهندسة هذا أيضاً.

الحفاظ على دقة حد الإنفاق

تبدو الميزانية الشهرية أمراً بسيطاً حتى يتغير سعر النموذج. في بيئة Kong المستضافة ذاتياً بالكامل وعلى المبانى (on-premises)، تستخدم إضافة حد الإنفاق أسعار النماذج المحددة في الإعدادات. إذا كانت هذه الأسعار قديمة، فقد يتخلف عداد الاستخدام عن الفاتورة الفعلية. ويحتاج شخص ما في فريقك إلى تحديثها أو بناء أتمتة تتولى ذلك.

تقدم Kong كتالوج أسعار يتم تحديثه تلقائياً من خلال Konnect Metering & Billing، ولكن هذه الخدمة المنفصلة غير متوفرة في البيئات المستضافة على المباني (on-premises). ولا ينبغي خلطها مع الأسعار المجهزة التي تستخدمها إضافة البوابة.

تقوم TrueFoundry بتحديث الأسعار العامة تلقائياً للنماذج المدعومة. ولا تزال بحاجة إلى تسعير مخصص للمعدلات المتفاوض عليها. يوضح المثال أدناه ما يحدث إذا تضاعف المعدل العام واستمرت Kong في استخدام السعر القديم: يرى قسم المالية استخداماً بقيمة 10 دولارات بينما يفرض مزود الخدمة 20 دولاراً.

بالنسبة لفريق FinOps، تكتسب هذه الفجوة أهمية كبيرة. فمن الصعب الثقة بحد الإنفاق إذا كان الحفاظ على دقته يعتمد على تحديث الأسعار الذي قد يغفل عنه شخص ما.

إضافة الأدوات إلى الوكيل (Agent)

بمجرد أن يصبح مساعد الدعم مفيداً، يكون الطلب التالي متوقعاً: السماح له بالبحث عن طلب والتحقق من سجل العميل. توجد هذه الإجراءات في اثنين من API الحاليين. وأنت تريد الكشف عن تلك الأدوات فقط للوكيل.

بروتوكول MCP هو البروتوكول الذي يسمح للوكلاء باستخدام الأدوات. مع TrueFoundry، يمكنك استيراد مواصفات API، وإنشاء الأدوات، واختيار الأدوات التي سيتم الكشف عنها معاً. لا يزال عليك تحديد ما يُسمح للوكيل بفعله، ولكن ليس عليك تعريف كل أداة يدوياً.

تتضمن مسارات عمل API-to-MCP الموثقة في Kong تهيئة الوصول إلى كل API، وتعريف أدواته وتسميتها حتى يمكن اكتشافها. ثم تقوم بإعداد نقطة نهاية (endpoint) مشتركة لتجميع تلك الأدوات معاً. وتجلب كل API إضافية مجموعة أخرى من الإعدادات للعناية بها.

معرفة سبب فشل الطلب

في النهاية، سيتوقف المساعد عن الإجابة وسيسأل شخص ما عن السبب. قد يكون ذلك بسبب استنفاد الميزانية، أو فحص الأمان، أو انقطاع الخدمة لدى المزود. يحتاج الشخص الذي يجري التحقيق إلى سياق كافٍ للتفريق بين هذه الأسباب.

توفر TrueFoundry سجلات الطلبات (request logs) في واجهة AI Gateway. بينما ترسل Kong بيانات استخدام AI من خلال إضافة تسجيل (logging plugin) مجهزة. جرب تتبع طلب فاشل في كلا المنتجين أثناء التقييم. واطلع على ما يمكنك تفسيره من السجلات المتاحة وحيث تحتاج إلى مساعدة من شخص يعرف إعدادات البوابة.

إذا كان هذا الشخص مطلوباً في كل مرة، فسيصبح مكتب الدعم الافتراضي لفرق التطبيقات والأمن والمالية. وهي تبعية تستحق الانتباه إليها قبل توسيع الاعتماد.

نظرة سريعة: TrueFoundry مقابل Kong

تقييم أكثر فائدة

اطلب من كلا الموردين البدء بنموذج متصل وإعداد فريق جديد بميزانية محدودة. أضف فحص أمان، وقم بربط أداتين، ثم اطلب حظر طلب بشكل متعمد. اجعل شخصاً يشرح لك ما الذي تغير ولماذا فشل الطلب.

ألقِ نظرة على الإعدادات التي أنشأتها، وما يمكنك إعادة استخدامه، ومن سيقوم بصيانته. أولِ اهتماماً خاصاً بالتغييرات التي قد تؤثر على الفرق الأخرى. هذا هو العمل الذي ستكرره بعد الشراء.

إذا كنت تشغل Kong بالفعل ولديك بضع حالات استخدام مستقرة للذكاء الاصطناعي، فقد يكون توسيع استخدامها خياراً عملياً. أما بالنسبة لبرنامج ذكاء اصطناعي متنامٍ، فإن ما يميز TrueFoundry هو أن الطلبات الروتينية تتطلب إعدادات بوابة أقل. مما يمنح فريق المنصة لديك مساحة أكبر لمساعدة الفرق على البناء، بدلاً من قضاء ذلك الوقت في صيانة الإعدادات المحيطة بهم.