تكامل HoneyHive مع بوابة الذكاء الاصطناعي Truefoundry

تواجه معظم الفرق التي تعمل بالذكاء الاصطناعي نفس التحدي. فهي تُجري آلاف استدعاءات النماذج يوميًا عبر مزودين وتطبيقات مختلفة، وليس لديها فكرة واضحة عما يحدث بداخلها بالفعل. ما هي المطالبات التي نجحت؟ لماذا قدم هذا الوكيل إجابة غريبة؟ هل كانت الاستجابة جيدة؟ الإجابة على هذه الأسئلة تعني عادةً إضافة رمز تتبع يدويًا إلى كل تطبيق، وهو أمر لا يستمتع به أحد وتتجنبه معظم الفرق. التكامل بين بوابة الذكاء الاصطناعي TrueFoundry و HoneyHive يحل هذه المشكلة عن طريق التقاط كل استدعاء يمر عبر البوابة تلقائيًا، وهو المكان الوحيد الذي تمر جميعها من خلاله بالفعل.

بوابة الذكاء الاصطناعي TrueFoundry كمستوى تحكم مركزي 

اعتبر بوابة الذكاء الاصطناعي TrueFoundry بمثابة مدخل واحد رئيسي لكل نموذج يستخدمه فريقك. فبدلاً من أن يتحدث كل تطبيق إلى OpenAI أو Anthropic أو أي جهة أخرى مباشرةً، فإنها جميعًا تمر عبر البوابة. تتولى البوابة التعامل مع الأجزاء المعقدة في مكان واحد: من يُسمح له باستدعاء ماذا، وإلى أي نموذج يجب أن يذهب الطلب، والحفاظ على الأمور آمنة وضمن الحدود. ولأن كل طلب يمر عبر هذا المدخل الواحد، فهو أيضًا المكان المثالي للاحتفاظ بسجل لما حدث.

أفضل ما في الأمر هو أنه لا يلزم أي أدوات إضافية. تسجل البوابة تلقائيًا التفاصيل الرئيسية لكل استدعاء، والنموذج المستخدم، والوقت الذي استغرقه، والرموز المميزة المتضمنة، والمطالبة والاستجابة، وتفعل ذلك بعد أن يكون الطلب في طريقه للعودة إلى المستخدم. لذا فإن إضافة هذه الرؤية لا تبطئ أبدًا أي شيء بالنسبة للأشخاص الذين يستخدمون تطبيقك. 

HoneyHive: التقييم كحلقة أساسية

HoneyHive هو المكان الذي تتحول فيه كل هذه الأنشطة إلى شيء يمكنك رؤيته بالفعل وتحسين وكيلك بناءً عليه. يأخذ سجلات استدعاءات الذكاء الاصطناعي الخاصة بك ويحولها إلى تتبعاتواضحة وشاملة، وهي عرض تفصيلي خطوة بخطوة لكل ما حدث في طلب واحد أو جلسة كاملة، بما في ذلك أي أدوات أو خطوات وكيل على طول الطريق، مع عرض المدخلات والمخرجات والتوقيت. عندما يحدث خطأ ما، يمكنك تتبع الأثر بدلاً من التخمين. يمكنك أيضًا استخدام وكيل الترميز الخاص بك لتحديد السبب الجذري لأي مشكلات باستخدام واجهة سطر الأوامر (CLI) الخاصة بـ Honeyhive.

لا يقتصر دور HoneyHive على المراقبة فقط. يمكن سحب نفس النشاط الذي يسجله إلى تقييمات و تجارب، حتى تتمكن من قياس ما إذا كان ذكائك الاصطناعي يتحسن أو يتدهور بمرور الوقت، واختبار التغييرات قبل طرحها. يتوقف التتبع عن كونه مجرد سجل لما حدث ويصبح مثالًا حقيقيًا يمكنك استخدامه لتحسين الجودة.

مسار عمل واحد، رؤية كاملة: HoneyHive و TrueFoundry

تتكامل الأداتان معًا لأنهما تتحدثان نفس اللغة. يحتفظ TrueFoundry بالفعل بسجل لكل استدعاء؛ ويعرف HoneyHive كيفية قراءة هذا النوع من السجلات. لذا فهما يتصلان ببساطة. بالنسبة للحركة المرورية الموجهة بالفعل عبر البوابة، لا توجد حاجة لإضافة أي رمز داخل تطبيقاتك ولا يوجد شيء على كل فريق صيانته. تقوم بتشغيل تصدير التتبع مرة واحدة في البوابة، ومنذ ذلك الحين، يظهر كل استدعاء نموذج يمر عبر TrueFoundry تلقائيًا في HoneyHive.

الشكل 1: تتدفق الطلبات عبر بوابة TrueFoundry للذكاء الاصطناعي إلى مزودي النماذج، بينما ترسل البوابة نسخة من كل تتبع إلى HoneyHive.

الاتصال أحادي الاتجاه فقط ويضيف فقط إلى ما لديك. ترسل البوابة نسخة من كل مكالمة مكتملة إلى HoneyHive، دون تغيير أي شيء في طريقة عمل تطبيقك ودون وضع HoneyHive في منتصف طلب مباشر. وإذا كنت تتعامل مع بيانات حساسة، فإن مفتاح تبديل واحد استبعاد بيانات الطلب يزيل محتوى المطالبة والاستجابة قبل أن يغادر أي شيء البوابة.

كيف يعمل تصدير التتبع

الفكرة الأساسية هي أن المستخدم يأتي دائمًا في المقام الأول. يتم الرد على الطلب، وبعد ذلك فقط ترسل البوابة السجل بهدوء إلى HoneyHive.

الشكل 2: يتم الرد على الطلب من البداية إلى النهاية، ويتم إرسال التتبع إلى HoneyHive لاحقًا، في الخلفية.

ابدأ باستخدام التتبع الجاهز للإنتاج

الإعداد هو تغيير في التكوين، وليس مشروعًا هندسيًا. أنشئ مفتاح API للمشروع في HoneyHive، ثم في لوحة تحكم TrueFoundry، افتح بوابة الذكاء الاصطناعي (AI Gateway) ← عناصر التحكم (Controls) ← الإعدادات (Settings)، وقم بتمكين مُصدّر تتبعات OTEL، ووجهه إلى نقطة نهاية OTLP الخاصة بـ HoneyHive. القيم الدقيقة موجودة أدناه.

نقطة نهاية التتبعات: https://<provider-host>/opentelemetry/v1/traces

البروتوكول: OTLP/HTTP

الترميز: Json

رأس المصادقة: Authorization: Bearer <HH_API_Key>

لتأكيد الاتصال، أرسل بعض الطلبات عبر البوابة، ثم افتح "مراقبة" (Observe) ← "التتبعات" (Traces) في HoneyHive وابحث عن أحداث جديدة يكون مصدرها (SOURCE) مضبوطًا على otlp. الخطوات الكاملة موجودة في وثائق تكامل TrueFoundry HoneyHive.

ما يجعل هذا الاقتران ناجحًا هو أن كل أداة تلتزم بما تبرع فيه، وتتشاركان اتصالًا واحدًا بسيطًا. TrueFoundry تدير وتوجه مكالمات الذكاء الاصطناعي الخاصة بك؛ بينما يساعدك HoneyHive على رؤيتها وقياسها وتحسينها. ولأن البوابة موجودة بالفعل أمام كل شيء، تتوقف الرؤية عن كونها مهمة شاقة يجب على كل فريق تذكرها وتصبح ببساطة جزءًا من كيفية عمل المنصة.