نيوروبيت هي شركة صحة رقمية مقرها نيويورك وسنغافورة وبنغالور. تعمل على تطوير تقنيات للتنبؤ بالنتائج الصحية السلبية والتخطيط لها قبل حدوثها بوقت طويل، وذلك باستخدام العلامات الحيوية التي يتم جمعها أثناء النوم كمؤشر حيوي.
قامت الشركة بإنشاء أكبر قاعدة بيانات للنوم في العالم بأكثر من تريليون نقطة بيانات فسيولوجية متعددة القنوات. يمنحهم حجم البيانات التي دربوا نماذجهم عليها المتانة لتعميم النموذج على أي سيناريو جديد. تشبه حالة استخدامهم العديد من جهود الذكاء الاصطناعي الحديثة التي تقوم بها شركات التقنية الصحية الحديثة ومبادرات الذكاء الاصطناعي الجديدة لكبرى شركات التكنولوجيا.
وجدنا أوجه تشابه بين حالات استخدام نيوروبيت وتلك الخاصة بشركات الرعاية الصحية الأخرى الكبيرة والمتوسطة التي تحدثنا إليها:
عندما التقينا بفريق نيوروبيت لأول مرة، كانوا يجرون تجارب طبية مع أكثر من 120 مركز بحث وجامعة وأكثر من 1000 مشارك. كان معظم هؤلاء المشاركين في نفس الموقع الجغرافي.
عندما يستيقظ الشخص، ترسل المستشعرات البيانات الفسيولوجية إلى الخادم للمعالجة. يتطلب كل طلب استدعاء 20 نموذجًا مختلفًا لتوليد الناتج النهائي.
كان حجم البيانات الواردة مع كل طلب كبيرًا (أكثر من 400 ميجابايت)، وخلال أوقات الذروة، لاحظ الفريق تأخرًا كبيرًا في وقت الاستجابة وحتى إسقاط الطلبات مع فقدان بيانات المستخدم.

كان هذا الوضع يسبب تداعيات مالية سلبية كبيرة للفريق:
كما هو الحال في حالات استخدام التعلم الآلي الأخرى ضمن صناعة التكنولوجيا الصحية، لم يكن بمقدور الفريق تحمل فقدان بيانات العملاء أو تأخر الاستجابات.
أدرك الفريق أن نشر نماذجهم على Kubernetes، مع وجود قائمة انتظار لتخزين الطلبات قبل معالجتها، من شأنه أن يحل مشكلات الموثوقية لديهم.
ومع ذلك، قيدت معايير حماية الملكية الفكرية للشركة الوصول إلى النموذج على عدد قليل فقط من أعضاء فريق التعلم الآلي وليس لفريق DevOps.
كان لدى فريق التعلم الآلي قدرة استيعابية وخبرة محدودة في Kubernetes لتنفيذ ذلك بأنفسهم. بدلاً من ذلك، أرادوا التركيز على تطوير نماذج جديدة.
كان المكدس الحالي الذي كان يُستخدم لعمليات نشر التعلم الآلي هو:
عمل المكدس بشكل جيد للفريق حتى نطاق معين. ولكن بمجرد توسع حالة الاستخدام، بدأ الفريق يواجه مشكلات في الموثوقية عند تقديم النموذج مما تطلب اهتمامًا فوريًا.
نظرًا لأن الشركة تتعامل مع بيانات حساسة لتحديد الهوية الشخصية (PII) وبيانات صحية، كان الحفاظ على أمان واجهات برمجة تطبيقات النماذج ذا أهمية قصوى بالنسبة لهم. لم يرغبوا في أن تغادر أي بيانات للعملاء سحابتهم، وأرادوا تعزيز معايير المصادقة والأمان لواجهات برمجة التطبيقات التي كانوا يستخدمونها.
احتاج الفريق إلى طريقة لتمكين فريق التعلم الآلي الخاص بهم، الذي كان لديه وصول إلى النموذج، ليتمكن من نشر وإدارة النماذج على Kubernetes بشكل مستقل. كانت الأهداف التي أراد فريق Neurobit تحقيقها من خلال الشراكة مع TrueFoundry هي:
ساعد فريق TrueFoundry فريق Neurobit على تثبيت وكيل TrueFoundry ولوحة التحكم على مجموعتهم خلال مكالمة استغرقت ساعتين. تم إبلاغهم بالوصول والأذونات المطلوبة، وتم توجيههم خلال كل خطوة من خطوات التثبيت في مكالمة واحدة.
أُتيح للفريق خيار تثبيت الوحدات النمطية فقط من منصة TrueFoundry التي كانت ذات صلة بهم (نشر النماذج والمصادقة).
بعد التثبيت، عُرض على الفريق عرض توضيحي للمنصة وسُلمت لهم الوثائق.
تمكن فريق Neurobit من البدء في استخدام المنصة لنشر نماذجهم منذ اليوم الأول. فقد تمكنوا من ربط مستودعات Git الخاصة بهم مباشرة بالمنصة، وتم تحويل هذا الكود تلقائيًا إلى Docker ونشره على المنصة باستخدام واجهة مستخدم TrueFoundry أو واجهات برمجة التطبيقات (APIs) أو حزمة تطوير Python (SDK). لم تكن هناك حاجة لتغييرات في الكود ولا حاجة لتعلم أي إطار عمل إضافي لجميع سير العمل التي كان الفريق يحاول إنجازها.
أظهر الفريق وتيرة عمل رائعة لأنهم أرادوا حل مشكلات الموثوقية بسرعة. في غضون أيام قليلة، بدأوا في استكشاف المزيد والمزيد من ميزات المنصة وقدموا لنا ملاحظاتهم.
في غضون أسبوعين، تمكن الفريق من:
من خلال نشر نماذج التعلم الآلي على TrueFoundry، تمكن الفريق من:
عندما تم حل التحديات ذات الأولوية القصوى المتعلقة بنماذج التعلم الآلي، قرر فريق TrueFoundry المضي قدمًا للتأكد من أن فريق Neurobit كان مهيأً للنجاح. خلال محادثاتنا مع فريق Neurobit، أدركنا أن هناك مجالًا لتحسين بنية الخدمات المصغرة (microservices) للشركة بشكل أكبر. قد يكون لذلك تأثير محتمل على وقت الاستدلال وتكاليف السحابة التي كان الفريق يتكبدها.
انتهى بنا الأمر إلى إجراء مراجعة متعمقة لبنية الخدمات المصغرة مع الفريق.

توصلنا إلى الفهم التالي للبنية التي كان الفريق يتبعها:
استغرقت هذه العملية بأكملها حوالي 7 دقائق لكل طلب.

حاولنا فهم تحمل الأخطاء وأوقات الاستدلال التي يحتاجها الفريق. وبناءً على هذا الفهم، اقترحنا على فريق Neurobit تمرير مخرجات خدمة إلى أخرى مباشرةً عبر بروتوكول gRPC.
كانت ميزة هذه البنية هي أن.
استضافت منصة TrueFoundry هذا المسار الجديد، وقد أدى ذلك إلى تقليل وقت استدلال النموذج من حوالي 7 دقائق/طلب إلى حوالي دقيقتين/طلب.
مع تقدم شراكتنا مع فريق Neurobit، رأينا أن الأعمال التجارية قد أدركت الفوائد من أوقات الاستجابة الأسرع والموثوقية وقابلية التوسع التي ساعدت منصة TrueFoundry فريق Neurobit على تحقيقها.

ساعدت TrueFoundry فريق Neurobit على نقل جميع أعباء عمل التعلم الآلي الخاصة بهم إلى Kubernetes دون الحاجة إلى التعامل مع تعقيد تعلم أي شيء جديد يتعلق بـ Kubernetes. كما ساعدت الفريق على أن يصبح مستقلاً في التعامل مع جميع العمليات المتقدمة في Kubernetes مثل عمليات النشر غير المتزامنة، وإعداد التحجيم التلقائي، وعمليات النشر بدون خادم، إلخ.
لقد تمكنا أيضًا من مساعدة الفريق في نقل بعض مواردهم البرمجية إلى بنية الخدمات المصغرة (microservices) فوق Kubernetes لضمان أن تكون بنيتهم جاهزة للمستقبل وتعمل بمستويات استخدام مثالية.

بينما نواصل التعاون مع Neurobit ومساعدتهم على تحقيق النطاق ومستوى التأثير في مجال الذكاء الاصطناعي الذي يطمحون إليه، فإننا ممتنون لجميع الدروس التي تمكنا من استخلاصها من العمل مع الفريق. لقد ساعد ذلك في تشكيل طريقة تفكيرنا حول التعامل مع العملاء، كما أعطى توجيهًا قويًا لمنتجنا.
تشمل بعض دروسنا الأساسية:
لقد شاركنا في تطوير بعض الميزات المهمة للمنصة أثناء محاولتنا حل حالات الاستخدام التي طلب منا فريق Neurobit تمكينها. وتشمل هذه:
نتطلع إلى التعاون مع فريق Neurobit على المدى الطويل والتعلم منهم مع تقديم المساعدة لهم على طول الطريق. تشمل بعض التطورات المستقبلية التي قد يحملها هذا التعاون:
نتطلع بحماس إلى ما هو قادم!
