محادثات التعلم الآلي الحقيقية #7 - منصة التعلم الآلي على الحافة

نعود إليكم بحلقة جديدة من True ML Talks. في هذه الحلقة، نتعمق في Edge منصة تعلم الآلة، ونتحدث مع راهول كولهاري.

نقدم لكم راهول كولهاري، المؤسس المشارك ورئيس قسم علم البيانات في Edge. بفضل خلفيته القوية في الذكاء الاصطناعي وتعلم الآلة، يتولى راهول مسؤولية تنفيذ رؤية الشركة وبناء استراتيجيتها في مجال الذكاء الاصطناعي. يقود فريقًا من الخبراء الذين يطورون أنظمة ذكاء اصطناعي متطورة تدعم منتجات Edge في استقطاب المواهب، وتنقل المواهب، وسوق المواهب الداخلي. خبرته وتجربته تجعله رصيدًا قيمًا للصناعة وموردًا ممتازًا لأي شخص مهتم بآخر التطورات في علم البيانات والذكاء الاصطناعي.

📌

ستغطي محادثاتنا مع Liming الجوانب التالية:
- حالات استخدام تعلم الآلة في Edge
- فريق تعلم الآلة في Edge
- الابتكار في حزمة تعلم الآلة
- Quantization مقابل Distillation
- التحديات في تشغيل تعلم الآلة
- اختيار أدوات MLOps

شاهد الحلقة الكاملة أدناه:

حالات استخدام تعلم الآلة في Edge

1. معالجة اللغة الطبيعية (NLP): تستخدمها Edge لفهم أفضل لأوصاف الوظائف والسير الذاتية للتوصية بالمرشحين المناسبين والمحتملين للوظائف.
2. الرسم البياني المعرفي: تستخدمها Edge لتوفير نظام بحث وتوصيات لفرص عمل مخصصة للموظفين داخل الشركة والمرشحين المناسبين للوظائف.
3. التعلم المعزز: حالة استخدام مستقبلية محتملة لـ Edge لتمكين المستخدمين من اتخاذ القرارات بناءً على سلوك اليوم والتحول الذي يحدث في الصناعة، بالانتقال نحو نهج أكثر ديناميكية يأخذ في الاعتبار اتجاهات الصناعة وتغيراتها بمرور الوقت.

فريق تعلم الآلة في Edge

يتكون هيكل الفريق في Edge من خمس فئات فرعية. كل قسم مسؤول عن جانب معين من دورة حياة تطوير منتجات الذكاء الاصطناعي. هذه الأقسام الخمسة هي كالتالي:

1. علماء التطبيقات/علماء الأبحاث/علماء جيجا: هذه الفئة الفرعية مسؤولة عن فهم بيان المشكلة وبناء الحل الشامل من البداية إلى النهاية، والذي يشمل التجريب وتنظيف البيانات ومعالجة البيانات والنشر. يعملون عن كثب مع أعضاء الفريق الآخرين لتطوير ونشر نماذج تعلم الآلة.
2. محللو البيانات: هذا القسم مسؤول عن جمع وتحليل وتفسير مجموعات البيانات الكبيرة والمعقدة. يعملون عن كثب مع علماء البيانات لضمان أن البيانات المستخدمة ذات جودة عالية وذات صلة بالمشكلة التي يتم حلها.
3. مهندسو تعلم الآلة: يقوم مهندسو تعلم الآلة بتمكين علماء البيانات كجزء من مسارات تعلم الآلة من خلال تقديم الأدوات كجزء من التدريب والتجريب والنشر والمراقبة. يعملون عن كثب مع علماء التطبيقات لنشر النماذج في بيئة الإنتاج.
4. مدراء منتجات الذكاء الاصطناعي: مدراء منتجات الذكاء الاصطناعي مسؤولون عن تحسين وبناء منتج الذكاء الاصطناعي. يقومون بترجمة بيان المشكلة من أصحاب المصلحة في الفريق إلى علماء البيانات وأعضاء الفريق الآخرين. يعملون عن كثب مع أعضاء الفريق الآخرين لضمان أن منتج الذكاء الاصطناعي يلبي احتياجات الشركة ويتماشى مع أهدافها.
5. خبراء المجال: يضم هذا القسم أشخاصًا ذوي خبرة في مجالات محددة مثل الموارد البشرية والمالية والمبيعات. يعملون عن كثب مع علماء البيانات ومهندسي تعلم الآلة لضمان أن منتج الذكاء الاصطناعي ذو صلة بالمجال المحدد ويوفر قيمة للشركة.

📌

دور مدير منتج الذكاء الاصطناعي:
يسد مدير منتج الذكاء الاصطناعي الفجوة التجارية بين فرق علم البيانات وهندسة تعلم الآلة من خلال التواصل مع فرق المنتجات ونجاح العملاء لفهم أهداف العمل. ينظمون مناقشات تضم علماء البيانات وعلماء الأبحاث وفريق هندسة تعلم الآلة لتحديد المساهمات الضرورية لكل عضو في الفريق. يقوم مدير منتج الذكاء الاصطناعي بتوصيل الاحتياجات والإرشادات لمساهمة كل فريق لضمان توافق الجميع. يظلون مشاركين طوال المشروع لضمان تحقيق أهداف العمل وأن الجميع يعملون نحو نفس الهدف.

الابتكارات في مكدس تعلم الآلة

يدرك فريق تعلم الآلة في Edge التحدي الكبير المتمثل في نقص البيانات في سير عمل تعلم الآلة. لمعالجة ذلك، قدموا أدوات وعمليات وخوارزميات متنوعة لزيادة البيانات. لقد طوروا قدرات مثل خوارزميات الطالب والمعلم، والتي تمكن نماذجهم من التدرب على بيانات مشوشة تم إنشاؤها باستخدام هذه الأدوات والخوارزميات، ثم يتم ضبطها بدقة على كمية كبيرة من البيانات المصنفة.

إحدى الأدوات الحاسمة التي يستخدمونها لزيادة البيانات هي Evidently AI، والتي تساعدهم في تحديد انحراف البيانات والانحراف المستهدف لضمان توافق البيانات المشوشة التي تم إنشاؤها مع البيانات المصنفة أو المستهدفة. تتيح لهم هذه الأداة التأكد من أن ميزاتهم الفئوية والمستمرة متوافقة ومفيدة في إنشاء نماذج دقيقة.

ابتكر الفريق أيضًا في مسار تعلم الآلة. فبينما أصبح ناضجًا بمرور الوقت، وجدوا عند بنائه أنه لا توجد أداة أو منتج واحد يمكنه حل جميع المهام الشاملة، وكان دمجها مع بعضها البعض يمثل تحديًا. لقد استخدموا أدوات مختلفة مثل Neptune و Comet و MLflow لتسجيل النماذج وإدارتها.

من منظور النشر، ركزوا على قابلية التوسع، وزمن الوصول، والتكلفة. يستخدمون أدوات مثل TF serving و Onyx للتقليل الكمي (quantization) للنشر على وحدات نشر Kubernetes. لديهم أدوات متعددة في جميع أنحاء مسار تعلم الآلة الخاص بهم، وهو ما يعتبرونه ابتكارًا. لقد تمكنوا من إدارة مواردهم المالية أثناء بناء عمل متطور، لذلك لم يجدوا حاجة للانتقال إلى أدوات أحدث قد تكون أكثر تكلفة. ومع ذلك، فإنهم يشجعون فريقهم على مراقبة التقنيات والأدوات الجديدة التي قد تكون مفيدة في المستقبل.

التقليل الكمي (Quantization) أفضل من التقطير (Distillation): تحسين زمن استجابة النموذج

يُعد تحسين زمن استجابة النموذج تحديًا حاسمًا في مجال تعلم الآلة، وقد تم استكشاف تقنيات مثل التقليل الكمي (quantization) وتقليم النموذج (model pruning) والتقطير (distillation) لحله. ووفقًا لتقرير حديث صادر عن فريق في Edge، فإن التقليل الكمي يعمل بشكل أفضل من التقطير لتقليل زمن استجابة النموذج.

أجرى الفريق تجارب على نماذج مختلفة مثل DistilBERT و RoBERTa و ALBERT، واختاروا في النهاية ALBERT نظرًا لأدائه الأفضل في تفسير الوظائف والسير الذاتية. كما أجروا عملية التقطير على كل من ALBERT و RoBERTa.

من خلال تجاربهم، وجد الفريق أن التقليل الكمي قدم نتائج رائعة، حيث قلل زمن استجابة النموذج من حوالي 1.2 ثانية إلى حوالي 200 مللي ثانية على وحدات المعالجة المركزية (CPUs). استخدم الفريق Onyx وتقنية التقليل الكمي من Hugging Face لنماذجهم، والتي قاموا بتدريبها فقط على وحدات معالجة الرسوميات (GPUs).

عند اختيار النموذج المناسب، أخذ الفريق في الاعتبار عوامل مختلفة مثل زمن الاستجابة، وحجم النموذج، والتزامن، واستخدام وحدة المعالجة المركزية، واستخدام الذاكرة. وقد تعاونوا مع علماء البيانات الذين قدموا الإطار لعملية التقليل الكمي، بينما أجرى فريق هندسة تعلم الآلة التجارب واختار الخيار الأفضل بناءً على النتائج.

على الرغم من أن التقليل الكمي كان له تأثير بنسبة 1% على الدقة، إلا أنه لم يؤثر على الاستدعاء. يؤكد الفريق على أن الجميع يجب أن يجرب التقليل الكمي لأنه تقنية بسيطة وفعالة لتقليل زمن استجابة النموذج.

للحصول على البيانات، كان النموذج قبل التقليل الكمي يستغرق حوالي 1200 مللي ثانية. ولكن عندما تم إجراء التقليل الكمي، انخفض الوقت إلى حوالي 200 مللي ثانية.

تحديات تشغيل تعلم الآلة

التحديات:

1. توفر بيانات محدودة للتدريب: يمكن أن يكون العمل مع حالات الاستخدام مثل البحث، ومحركات التوصية، ومشاكل التصنيف، وتعلم الآلة الموجه نحو الأهداف أو الغايات أمرًا صعبًا بسبب قلة توفر البيانات. من الضروري تحديد طرق لإدارة البيانات الأقل وتحقيق أفضل النتائج.
2. اعتماد أدوات تعلم الآلة: يُعد اعتماد أدوات مثل MLflow أمرًا صعبًا، حيث قد لا يفهم علماء الأبحاث وعلماء البيانات أهمية الأداة أو كيف تساعدهم. يجب على فريق تعلم الآلة بذل الجهود لتثقيفهم ورفع الوعي بفوائد استخدام مثل هذه الأدوات.

الحلول:

1. تطوير رؤى وصفية أو توجيهية: يجب على فريق تعلم الآلة التركيز على تطوير أدوات توفر رؤى وصفية أو توجيهية للمساعدة في اتخاذ القرار. سيقلل هذا من الاعتماد على خبرة علماء الأبحاث، والتي يمكن أن تستغرق وقتًا طويلاً وتكون مكلفة.
2. التعاون بين البيانات والخوارزميات والخبرة البشرية: لتحقيق أفضل النتائج وتطوير الاستراتيجية الصحيحة، يجب استخدام البيانات والخوارزميات والخبرة البشرية معًا.
3. تحديد أهم التجارب التي يجب إجراؤها: مع البنية التحتية المحدودة، من الضروري تحديد أفضل التجارب التي يجب إجراؤها نظرًا لوجود العديد من المعاملات الفائقة (hyperparameters) في التعلم الآلي. يجب أن يركز فريق التعلم الآلي على تطوير عملية لتحديد أهم التجارب التي يجب إجراؤها وتحسين المعاملات الفائقة لتحقيق أفضل النتائج.

أدوات MLOps: بعض الأدوات الرئيسية لإكمال الرحلة بأكملها

أدوات البنية التحتية لتدريب ونشر MLOps

عندما يتعلق الأمر بـ MLOps، تعد البنية التحتية مكونًا حاسمًا. فالبنية التحتية الموثوقة ضرورية لدعم قوة المعالجة المطلوبة لتدريب ونشر التعلم الآلي. يمكن أن يوفر استخدام مزود لوحدات معالجة الرسوميات (GPU) مثل E2E Networks وحدات GPU بأسعار معقولة في الهند.

أدوات تدريب وبناء النماذج لـ MLOps

للتدريب وبناء النماذج، يمكن أن يضمن استخدام أدوات مثل Neptune أو Comet ML أو TrueFoundry المدمجة مع Git قابلية التكرار والامتثال التنظيمي. يوصى أيضًا باستخدام Hugging Face و TensorFlow و PyTorch لبناء النماذج. يعد CatBoost خيارًا جيدًا لمشاكل الانحدار أو أشجار القرار.

أدوات النشر لـ MLOps

عندما يتعلق الأمر بالنشر، فإن ONNX هي أداة موصى بها، أو يمكن اتباع نهج بلا خادم باستخدام Max.io أو Banana.dev أو Infrrd. في مرحلة التطوير، يمكن ضمان جودة البيانات من خلال أدوات مخصصة أو تابعة لجهات خارجية مثل Great Expectations، و Streamlit للتصور، و Alibi Detect أو Evidently AI لانحراف البيانات وتحليلها. ومع ذلك، خلال مرحلة الإنتاج، قد تكون هناك حاجة إلى أدوات إضافية لجودة البيانات وتتبع المصدر وأنواع أخرى من التحليل.

اقرأ مدوناتنا السابقة في سلسلة TrueML

‍

‍True ML Talks #6 - Machine Learning Platform @ °Nomad Health

In this blog, we dive deep into Nomad.Health’s ML Platform. Understand their ML architecture, how ML is used in the healthcare staffing industry.

TrueFoundry Blog TrueFoundry

‍

استمر في مشاهدة سلسلة TrueML على يوتيوب وقراءة جميع سلاسل مدونات TrueML.

TrueFoundry هي منصة كخدمة (PaaS) لنشر التعلم الآلي تعمل فوق Kubernetes لتسريع سير عمل المطورين مع منحهم مرونة كاملة في اختبار ونشر النماذج، مع ضمان الأمان والتحكم الكامل لفريق البنية التحتية. من خلال منصتنا، نمكّن فرق التعلم الآلي من نشر ومراقبة نماذج في 15 دقيقة بموثوقية 100%، وقابلية للتوسع، والقدرة على التراجع في ثوانٍ - مما يمكنهم من توفير التكاليف وإطلاق النماذج في الإنتاج بشكل أسرع، مما يتيح تحقيق قيمة تجارية حقيقية.