تكامل Arthur AI مع بوابة Truefoundry AI

تكامل آرثر للذكاء الاصطناعي مع بوابة Truefoundry للذكاء الاصطناعي

يواجه كل فريق يطلق تطبيقًا يعتمد على نماذج اللغة الكبيرة (LLM) نفس التحدي. يرغب المطورون في التحرك بسرعة والاتصال بأي نموذج ينجز المهمة. وتريد فرق الأمن والمخاطر ضمان عدم وصول أي محتوى ضار أو مُتلاعب به أو مُختلق إلى المستخدم. كلاهما على حق. الجزء الصعب هو تحقيق الأمرين معًا، عبر كل نموذج تستخدمه فرقك، دون الحاجة إلى تثبيت حزمة تطوير برامج (SDK) مختلفة لكل تطبيق. السؤال الكبير هو: كيف تتحقق من صحة كل مطالبة وكل استجابة ينتجها الذكاء الاصطناعي الخاص بك دون تحويل الأمان إلى مشروع هندسي؟

يسرنا أن نعلن أن آرثر للذكاء الاصطناعي يتكامل الآن مع بوابة TrueFoundry للذكاء الاصطناعي. من خلال دمج محرك آرثر في البوابة كحاجز حماية مخصص، يمكنك التحقق من صحة مدخلات ومخرجات الذكاء الاصطناعي في الوقت الفعلي عبر جميع نماذجك من مكان واحد، بسياسة متسقة وتكامل واحد.

قوة بوابة TrueFoundry للذكاء الاصطناعي

تُعد بوابة TrueFoundry للذكاء الاصطناعي الأداة التي يستخدمها المطورون وفرق المنصات لإدارة تطبيقات الذكاء الاصطناعي ومراقبتها وتوسيع نطاقها. فهي توفر وصولاً موحدًا إلى مئات نماذج اللغة الكبيرة، وإمكانية مراقبة عميقة، وتوجيهًا ذكيًا، كل ذلك في طبقة واحدة. مع تزايد تبني الذكاء الاصطناعي، يتوقف التحدي الحقيقي عن كونه مجرد الوصول إلى النماذج، ويصبح إدارة كل ما يأتي بعد ذلك: مزودون متعددون، واجهات برمجة تطبيقات متغيرة، ومتطلبات امتثال صارمة يمكن أن تبطئ الفرق بهدوء إلى حد الزحف.

تُضفي البوابة نظامًا على هذا التعقيد. فهي تعمل كمركز قيادة للذكاء الاصطناعي للمؤسسات، موحدةً الوصول، ومطبقةً لسياسات الأمان، وموفرةً رؤية كاملة لكل نموذج وبيئة. تُدمج حواجز الحماية في هذه الطبقة مرة واحدة وتُطبق في كل مكان، بحيث يتم فرض أي قرار أمان يُتخذ في لوحة التحكم على كل طلب يمر عبرها.

آرثر للذكاء الاصطناعي: التحقق في الوقت الفعلي

يعمل آرثر للذكاء الاصطناعي كطبقة تحقق بين تطبيقك ونماذجك. يقوم محرك آرثر بفحص المطالبات والإكمال في الوقت الفعلي ويعيد حكمًا واضحًا بشأن ما إذا كانت آمنة للمتابعة.

بشكل جاهز للاستخدام، يتحقق آرثر من المخاطر الأكثر أهمية في بيئة الإنتاج. يكتشف حقن المطالبة، حيث يقوم المهاجم بصياغة مدخلات مصممة لاختراق النموذج وتحويله عن تعليماته. ويقوم بالإبلاغ عن المحتوى الضار سواء عند الإدخال أو الإخراج، لضمان عدم وصول أي لغة ضارة إلى نموذجك أو مستخدميك. ويُجري فحوصات الهلوسة مقابل السياق المرجعي الذي توفره، مكتشفًا الاستجابات التي تنحرف عن الحقائق قبل أن يُعتمد عليها كإجابات.

هناك تفصيل مهم يحدد كيفية عمل آرثر: إنه للتحقق فقط. يخبرك، بسرعة وبدون حالة، ما إذا كان شيء ما قد اجتاز الاختبار أو فشل فيه. فهو يبلغ عن المشكلات بدلاً من إعادة كتابة النص بصمت، مما يحافظ على سلوكه متوقعًا وسهل التدقيق.

معًا أفضل: عقد واحد، كل نموذج

يربط هذا التكامل بين Arthur وTrueFoundry من خلال غلاف قابل للنشر خفيف الوزن وعقد Custom Guardrail الخاص بالبوابة. تقوم بنشر خدمة FastAPI صغيرة، وتوجيه البوابة إليها، وتسجيل إعدادين لـ guardrail في لوحة التحكم: أحدهما للمدخلات والآخر للمخرجات. ومنذ تلك اللحظة، يمكن التحقق من صحة أي نموذج خلف البوابة بواسطة Arthur دون الحاجة إلى تغييرات في التعليمات البرمجية لكل تطبيق.

هذه هي الفائدة الحقيقية. فبدلاً من ربط Arthur بكل تطبيق يدويًا، يمكنك إرفاقه مرة واحدة عند البوابة. اربطه بنموذج لضمان حماية كل متصل، أو قم بتفعيله لكل طلب باستخدام رأس واحد عندما ترغب في ذلك لطلبات محددة فقط. تسري نفس السياسة مع كل فريق ونموذج وبيئة، ويتم تسجيل كل قرار إلى جانب تتبع طلبات TrueFoundry للحصول على مسار تدقيق واضح.

كيف يعمل تكامل Arthur AI وTrueFoundry

يقدم هذا التكامل سير عمل تحقق متعدد الطبقات سهل المتابعة:

1. يرسل تطبيقك طلبًا، ويمر أولاً عبر بوابة TrueFoundry AI Gateway.
2. تقوم البوابة بإعادة توجيه المطالبة إلى غلاف Arthur، والذي يستدعي محرك Arthur للتحقق من حقن المطالبات والسمية.
3. يعيد Arthur قرارًا. يسمح قرار السماح للطلب بالاستمرار إلى النموذج. أما قرار الحظر فيوقفه، ويتم إرجاع استجابة آمنة بدلاً من ذلك.
4. اختياريًا، بمجرد أن يُنشئ النموذج إكمالًا، ترسل البوابة هذا الإخراج مرة أخرى عبر Arthur لإجراء فحص نهائي للسمية والهلوسة قبل أن يصل إلى المستخدم.

يُضفي خيار تصميم دقيق ولكنه مهم قوة على هذا النظام: تعتمد قرارات السياسة على استجابة HTTP 200 عادية مع حقل للقرار، بينما تظهر أعطال البنية التحتية الحقيقية كأخطاء 5xx. مع استراتيجية التطبيق مع التجاهل عند الخطأ الموصى بها، يمرر الانقطاع المؤقت حركة المرور، لكن حظر السياسة الحقيقي يوقف الطلب دائمًا. بالنسبة للأنظمة الحساسة للسلامة، يمكنك التبديل إلى التطبيق الصارم والإغلاق عند الفشل بدلاً من ذلك.

ابدأ الآن

يجب ألا يبدو تأمين الذكاء الاصطناعي الخاص بك وكأنه إعادة بناء. مع Arthur AI على بوابة TrueFoundry AI، أصبح التحقق في الوقت الفعلي أقرب إلى تشغيل مفتاح منه إلى مشروع توصيلات: انشر الغلاف، أضف إعدادين لـ guardrail، اربطهما بنماذجك، وستقوم بالتحقق من المطالبات والاستجابات عبر مكدسك التقني.

لمعرفة كيفية عمله بالضبط، توجه إلى دليل تكامل Arthur AI في وثائق TrueFoundry، حيث يتم شرح الإعداد الكامل وعقد الاستجابة وتكوين الفحص المخصص خطوة بخطوة.

‍