إضافة نواة جاهزة للذكاء الاصطناعي التوليدي إلى حزمة التقنيات الخاصة بـ Aviso AI

إضافة نواة جاهزة للذكاء الاصطناعي التوليدي إلى مكدس تقنيات Aviso AI 

نبذة عن Aviso AI

Aviso AI هو نظام تشغيل للإيرادات مصمم لمساعدة فرق المبيعات على التنبؤ بالإيرادات وتحقيقها بشكل أفضل، وتحسين أداء الممثلين، وتحديد أولويات استراتيجيات دخول السوق (GTM). يجمع بين الذكاء الاصطناعي للمحادثة وتطبيقات المبيعات لتوفير تنبؤات دقيقة، والتنبؤ بالخطط المستقبلية، وكسب المزيد من الصفقات. 

لقد ساعد فرقًا من شركات مثل Seagate وHoneywell وGitHub وغيرها، على إبرام صفقات أكثر بنسبة 20% وتحقيق زيادة في الإيرادات الإجمالية تتراوح بين 15-35%.

الأهداف التي أراد الفريق تحقيقها

أراد فريق تعلم الآلة في Aviso AI زيادة تعزيز مكدس الشركة الذي يعتمد على الذكاء الاصطناعي أولاً وتوسيع نطاق التأثير من خلال:

1. جعل المكدس متينًا للنماذج الجديدة مثل نماذج اللغات الكبيرة (LLMs): أراد الفريق دعمًا لجميع أحدث النماذج ضمن سحابتهم وجعل المكدس جاهزًا لأي شيء جديد قد يظهر في المستقبل.
2. تبسيط التعامل مع البنية التحتية لمطوري تعلم الآلة: أراد الفريق أن يقضي مطورو تعلم الآلة/علوم البيانات أقل وقت ممكن في التعامل مع البنية التحتية حتى يتمكنوا من تجربة نماذجهم واختبارها ونشرها. 
3. تقليل تكاليف السحابة: أراد الفريق زيادة نسبة استخدام البنية التحتية المخصصة وتجميع خدمات/نماذج متعددة في نفس وحدة الحوسبة. 

ما حققناه بالتعاون مع فريق Aviso AI

من خلال الشراكة، تمكنت الفرق مجتمعة من تحقيق ما يلي: 

1. توفير أكثر من 100 ساعة من وقت المطورين شهريًا: انتقل فريق تعلم الآلة إلى بيئة قائمة على Docker، مما أدى إلى تقليل أوقات البناء وتسهيل الاختبار المحلي.
2. توفير في تكاليف السحابة: تمكن الفريق من تعبئة المزيد من البرامج/النماذج للحوسبة المخصصة باستخدام دوكر. كما تمكنوا من استخدام الخوادم الفورية دون القلق بشأن الموثوقية. وبشكل عام، حقق الفريق وفورات في تكاليف السحابة تتراوح بين 30-40% تقريبًا.
3. نشر نماذج اللغة الكبيرة (LLM) على نطاق واسع: باستخدام كتالوج نماذج اللغة الكبيرة مفتوحة المصدر والمُعدة مسبقًا، تمكن الفريق من نشر أي نموذج لغة كبيرة من HuggingFace أو مصادر أخرى مع استدلال مُحسّن على البنية التحتية التي توفرها منصة TrueFoundry.

تستخدم Aviso AI الذكاء الاصطناعي لإحداث ثورة في عمليات الإيرادات

Aviso AI هي منصة متكاملة تجمع بين أدوات مبيعات متنوعة مدعومة بالذكاء الاصطناعي لتحسين تنفيذ الإيرادات. تشمل بعض منتجاتها الرئيسية:

1. توقعات المبيعات: التنبؤ بنتائج المبيعات، مما يمكّن الفرق من التركيز على الصفقات الأساسية.
2. تحسين الأداء: المساعدة في تحسين استراتيجية المبيعات وتقديم ملاحظات تحسين للفريق.
3. رؤى في الوقت الفعلي: يساعد القادة على مراقبة وتشخيص أي اضطراب أو تغير في السوق
4. توصيات قابلة للتنفيذ: اقتراح أفضل إجراء تالي لممثلي المبيعات باستخدام تحليلها القائم على الذكاء الاصطناعي.

تشمل عروضهم الأخرى توقعات الصفقات الموجهة بالذكاء الاصطناعي، وإدارة خطوط الأنابيب والصفقات، والذكاء الحواري، والتدريب والتمكين، وتحليلات وتقارير معالجة اللغة الطبيعية (NLP)، وتفاعل المبيعات، وذكاء العملاء المحتملين، وذكاء نجاح العملاء.

MIKI: أول رئيس أركان يعمل بنماذج اللغة الكبيرة (LLM) في العالم

يواصل فريق Aviso AI الابتكار في مجال الذكاء الاصطناعي التوليدي؛ وفي صميم نهجها يأتي MIKI، أول رئيس أركان يعمل بالذكاء الاصطناعي التوليدي في العالم لذكاء الإيرادات، المصمم لتعزيز إنتاجية فرق التسويق (GTM) وتوفير ما يصل إلى 15-20 ساعة أسبوعيًا لممثلي المبيعات. يساعد في:

1. الإجابة على الأسئلة: الإجابة على استفسارات العملاء لمساعدة مندوبي المبيعات في الوقت الفعلي 
2. اقتراح أفضل الإجراءات التالية: اقتراح الخطوات المثلى لزيادة احتمالية إتمام محادثة المبيعات.
3. توجيه ممثلي المبيعات: تحليل وتقديم الملاحظات لموظفي المبيعات
4. أتمتة المهام الروتينية التي يقوم بها مدراء الحسابات: مثل البحث وكتابة رسائل البريد الإلكتروني 

أراد الفريق نشر نماذج LLM بشكل قابل للتوسع كخدمة مستقلة

كان فريق الذكاء الاصطناعي في Aviso ينشر برامجه وخدمات التعلم الآلي (ML) على صور الآلة من أمازون (AMIs). صور الآلة من أمازون (AMIs) هي أجهزة مهيأة مسبقًا تتضمن نظام التشغيل وخادم التطبيق والتطبيق/النموذج الذي ترغب في نشره. 

أراد الفريق إنشاء بنية تقنية أبسط وأكثر كفاءة لتدريب واختبار ونشر نماذجهم مع توسع حالات الاستخدام لتشمل نماذج أحدث وأكثر تطلبًا مثل نماذج اللغات الكبيرة (LLMs) والذكاء الاصطناعي التوليدي.

أرادوا الحفاظ على صور الآلة من أمازون (AMIs) خفيفة. 

بما أن البرامج وخدمات التعلم الآلي كانت مجمعة ومدمجة في صور الآلة من أمازون (AMIs)، فقد يطرح ذلك تحديات مع تزايد حجم النماذج، وهذا ينطبق بشكل خاص على نماذج اللغات الكبيرة (LLMs).

تسهيل الاختبار وتشخيص الأعطال

قد يصبح تحديد المشكلات أثناء الإصدار أو تصحيحها أمرًا صعبًا بسبب التبعيات بين خدمات التعلم الآلي وغير التعلم الآلي. أراد الفريق الحفاظ على عمليات النشر والاختبار الخاصة بهما منفصلة.

إدارة بيئة أبسط وتوسع فعال

قد تتطلب خدمات نماذج اللغات الكبيرة (LLM) والبرامج بيئات مختلفة للتشغيل. كما أن متطلبات الموارد الخاصة بهما مختلفة تمامًا. لذلك، رأى الفريق فائدة في إدارة البيئة ومعالجة الموارد لكليهما بشكل منفصل.

بفضل بنية تحتية محدثة، يوفر الفريق أكثر من 100 ساعة عمل للمطورين شهريًا.

انتقل الفريق إلى بنية تحتية قابلة للتوسع في بيئة تعتمد على Docker. قررنا معًا أن هذا يمكن أن يهيئ الفريق للنجاح على المدى الطويل مع توفير الوقت و 

تساعد بيئة Docker الجديدة الفريق على توفير التكاليف وتكون أكثر مرونة.

1. خفيف الوزن: صور Docker أخف بكثير وتغلف فقط التطبيق وتبعياته. وهذا يجعلها أصغر بكثير وأسرع في البناء. 
2. بنية الخدمات المصغرة: صور دوكر هي لبنات بناء تقسم التطبيق المتجانس إلى خدمات مصغرة أصغر. تجعل الخدمات المصغرة التطبيق أكثر موثوقية وشفافية بكثير. 
3. فعال من حيث التكلفة: تتشارك الحاويات أنوية نظام التشغيل المضيف، مما يجعلها أكثر كفاءة في استخدام الموارد من الأجهزة الافتراضية. يمكن تشغيل حاويات متعددة على بنية تحتية مشتركة، مما يؤدي إلى استغلال عالٍ للموارد.

سير عمل فريق تعلم الآلة الجديد مع TrueFoundry

ساعد TrueFoundry الفريق على الانتقال بسلاسة من إعدادهم الحالي إلى إعداد جديد قائم على دوكر يضمن:

1. أسهل لفرق علم البيانات إدارته: في كل مرة يحتاج فيها خدمة/نموذج إلى النشر أو الاختبار، يمكن القيام بذلك محليًا.
2. تم فرض أفضل ممارسات هندسة موثوقية الموقع (SRE) تلقائيًا: التحجيم التلقائي، إدارة الإصدارات، تتبع أصل البيانات والنموذج، وضوح التكلفة، إلخ.
3. توفير في تكاليف السحابة بنسبة ~40%: من خلال الاستخدام الموثوق للمثيلات الفورية، واستغلال أكبر للموارد

تمكن فريق Aviso AI من شحن نماذج اللغات الكبيرة (LLMs) من اليوم الأول باستخدام TrueFoundry

مع وجود المكدس الجديد والنمطي، تم إعداد الفريق لنشر واستخدام نماذج العصر الجديد والأثقل مثل نماذج اللغات الكبيرة (LLMs) بسلاسة لتشغيل MIKI وحالات الاستخدام الجديدة القادمة.

نظرًا لحجم هذه النماذج وحداثتها، فإن تدريبها وضبطها ونشرها على نطاق واسع يمثل مشاكل هندسية معقدة. وتشمل هذه:

1. توسيع نطاق البنية التحتية لوحدات معالجة الرسوميات (GPU): لدعم نماذج ضخمة مثل LlaMA 2 70 مليار، إلخ. 
2. تحديد تكوينات خادم النموذج المناسبة: يتم إصدار نماذج جديدة كل بضعة أسابيع، وتحتاج الفرق إلى تحديد المعلمات الصحيحة لتقديمها على خوادم النماذج مثل vLLM، TGI، إلخ. قد يستغرق العثور على هذا التكوين بناءً على الموارد المتاحة ومتطلبات الأداء أسابيع.
3. الضبط الدقيق والتدريب المسبق: يتطلب الضبط الدقيق والتدريب المسبق تنسيق مجموعات وحدات معالجة الرسوميات المتعددة (GPU)، وحفظ نقاط الفحص، والمراقبة المستمرة لعملية التدريب.

يمكن للفريق نشر نماذجه والتأكد من موثوقيتها وتكاليفها المثلى بشكل افتراضي

ساعدت TrueFoundry الفريق على:

1. النشر بنقرة واحدة أي نموذج لغوي كبير مفتوح المصدر (LLM) من Hugging Face Hub أو مصادر أخرى
2. التوسع التلقائي بأفضل أداء عبر خوادم النماذج لتقديم النماذج الأكثر أداءً
3. توفير التكاليف باستخدام مثيلات Spot، مما يسمح بتقليص حجم النموذج في فترات معينة من اليوم ونشر Kubernetes الخام.

أصبحت TrueFoundry الواجهة الموحدة للمسؤولين وفرق تعلم الآلة

أصبحت TrueFoundry لوحة التحكم الموحدة التي من خلالها قامت المشاريع المختلفة داخل الشركة بنشر نماذج تعلم الآلة الخاصة بها. وقد سمح ذلك بمشاركة السياق بشكل أسهل بين الفرق، حيث يمكن للجميع، وخاصة المسؤولين، الاطلاع على عمليات النشر وبناء النماذج التي تقوم بها الفرق المختلفة.