TrueFoundry: مراجعة نهاية عام 2022

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
31 ديسمبر 2022: إنه لأمر مدهش مدى التأمل والحماس ❣ الذي أشعر به اليوم! ربما لأن نهايات وبدايات السنوات تمتلك هذه القوة الخاصة التي تمنح حياتنا زر إعادة ضبط وتجديد. ومع ذلك، كلما فكرت في الأمر أكثر، أدركت أنه لا يوجد شيء جوهري في بداية ونهاية العام. إنها مجرد دورة اعتباطية من صنع الإنسان، ومن الناحية المثالية، يمكننا التحكم في الشعور بالانتعاش في بداية شهر أو أسبوع أو يوم أو ساعة — أو أي وقت بين ذلك! هذا أحد الدروس التي سأحاول تطبيقها في عام 2023!
مع وضع ذلك في الاعتبار لعام 2023، أود أن أبدأ بـ التصفيق 👏 والإعجاب بعام 2022 لما كان عليه من عام مذهل للتعلم الآلي وMLOps! لقد شهد العقد الماضي تقدمًا غير مسبوق في الذكاء الاصطناعي، لكن لم يخلق شيء هذا النوع من الحماس بين عامة الناس مثل ChatGPT ، لدرجة أن جوجل أعلنت حالة تأهب قصوى! بالإضافة إلى ذلك، شهد عام 2022 Stable Diffusion من Stability AI، التدريب بالانتشار الأمامي لـ Geoffrey Hinton، خوارزميات ضرب المصفوفات التي ولدها الذكاء الاصطناعي، تخليق 600 مليون بروتين محتمل بواسطة Meta AI، bnb-int8 لمعظم خوارزميات HuggingFace، تدريب Ray لمليون نموذج في وقت قياسي- يا له من عام استثنائي!
من ناحية أخرى، في عام 2022، حققت TrueFoundry بداية قوية ومؤثرة - من توظيف أول مهندس في الفريق، إلى برمجة واجهة مستخدم منتجنا البدائية المبنية على Streamlit، إلى توظيف فريق عالمي المستوى، إلى بناء منصة نشر تعلم آلة متعددة السحابات، إلى العمل مع العديد من الشركات التي تتجاوز قيمتها 50 مليار دولار حل تحدياتهم الإنتاجية! أنا فخور للغاية بفريقنا لتحقيق هذا الإنجاز الضخم في عام واحد فقط! أود أن أعود بالذاكرة إلى الوراء وأسترجع ✍ ذكريات هذا العام الأول الجميل لفريق TrueFoundry.
الفريق
ما أفضل طريقة للبدء من الحديث عن فريقنا. في عام واحد، نما عددنا إلى 15 فردًا من المتخصصين التقنيين والتجاريين قادمين من خلفيات متنوعة مثل فيسبوك، أمازون، بوستمان، جوجيك وماكينزي. يتوزع فريقنا في الهند، سان فرانسيسكو وباريس مع أول مساحة مكتبية لنا في بنغالور! أقمنا أول خلوة للشركة هذا نوفمبر والتي كانت عبارة عن أسبوع من الإقامة معًا، وتبادل الأفكار، والتأمل، واللعب!

الاعتماد
على الرغم من أن TrueFoundry لا تزال في بداية طريقها، فقد حالفنا الحظ لـ بناء منصتنا بالتعاون مع شركاء تصميم رائعين الذين يقدمون لنا ملاحظات عملية وملموسة حول كيفية تصميم الأجزاء المختلفة من منصتنا. لقد أتاح لنا عملنا معهم الفوز بإثباتات مفهوم مدفوعة مع الشركات الكبرى والشركات الناشئة في مرحلة النمو. لست مستعدًا لذكر أسمائهم بعد، ولكننا نعتز بامتياز العمل مع هذه الشركات!
بالإضافة إلى ذلك، نشكر الشركات الناشئة ومجتمع المطورين الذين قدموا لنا مساهمات سخية بكونهم من أوائل المتبنين لمنتجنا!
المنتج
للتذكير فقط، TrueFoundry تبني منصة كخدمة (PaaS) تمكن المطورين من نشر ومراقبة نماذج التعلم الآلي الخاصة بهم بسرعة شركات التكنولوجيا الكبرى، مما يقلل جداولهم الزمنية للإنتاج من أسابيع إلى دقائق. في عام واحد، قمنا ببناء-
- منصة مستقلة عن السحابة مبنية على Kubernetes تتيح للمستخدمين نشر نماذجهم
- لقد قدمنا ثلاث واجهات مستخدم لعمليات النشر - واجهات برمجة تطبيقات Python للإنتاج، تهيئة YAML لـ CI/CD، GUI للتجارب
- توفير بديهي للبنية التحتية من واجهة مستخدم واحدة مما يجعل المطورين مستقلين ويسمح لفريق DevOps بتحسين التكلفة بشكل أفضل
- لقد أنشأنا حلاً بنقرة واحدة يعتمد على Terraform لنشر المنصة بأكملها على جميع مزودي الخدمات السحابية الرئيسيين الثلاثة - AWS و GCP و Azure
- كامل و تسجيل ومراقبة آليان لخدماتك
- مراقبة النماذج، مراقبة البيانات و لوحات معلومات تتبع الانحراف
- كامل تتبع التجارب مع إدارة المخرجات

التمويل
تفخر TrueFoundry وتعتبر نفسها محظوظة لحصولها على دعم وثقة مستثمرين بارزين مثل سيكويا، إينياك ونافال رافيكانت. اقرأ مقالاً في تك كرانش يغطي إعلاننا عن تمويلنا الأولي. بالإضافة إلى ذلك، نحن محظوظون بتلقي دعم من مستثمرين ملائكيين ومستشارين مثل-
- مؤسس @ كاغل (بيعت إلى جوجل — أنتوني غولدبلوم),
- مؤسس في روبريك (سوهام مازومدار)
- صندوق البناة (مطورو منصة تعلم الآلة في سيلزفورس),
- المدير التقني في جرينهاوس (مايك بوفورد)
- المهندس المعماري الرئيسي لمنصة FBLearner (أديتيا كالرو)
- المدير التقني/المؤسس في بروداكتيف (Ashish Aggarwal)
- مؤسسو Whatfix (Khadim Bhatti & Vara Kumar)
- المدير التنفيذي للمعلومات في Deutsche Bank (Dilip Khandelwal)
- المدير التنفيذي للتقنية / مؤسس في ClearCo (Satwik Seshasai)
- المدير التقني في AlphaSense (راج نيرفانان)
- كبير مهندسي تعلم الآلة في SnowFlake (تال شاكيد) و
- رؤساء تعلم الآلة في SentiLink، Migo، Upwork
تكاملات
في TrueFoundry، نركز على بناء حلول للمستخدمين وهدفنا هو الوصول إليهم حيثما كانوا. لهذا السبب، قمنا بتحليل العديد من الأدوات والمكتبات والأطر والمنصات المستخدمة على نطاق واسع، وقمنا ببناء تكاملات مع العديد من أشهرها-
- مكتبات التعلم الآلي- tensorflow, pytorch, sklearn, xgboost, huggingface, lightgbm, mlflow إلخ.
- أطر عمل تقديم النماذج: TFServe, TorchServe
- موفرو الخدمات السحابية: AWS, GCP, Azure
- إدارة إصدارات الكود: GitHub, BitBucket
- CI/CD: Github Actions
- سجلات Docker: DockerHub, AWS Container Registry, Google Container Registry
- إدارة الأسرار: AWS Parameter Store, Google Secrets Manager
- أدوات لوحات المعلومات: Gradio, StreamLit
- Kubernetes
الفعاليات والمجتمع
بينما بدأنا للتو في هذا الجانب، تتضمن بعض التحديثات الرائعة هنا ما يلي-
- أبهيشيك تحدث في الـ 1729.world الحدث الذي نظمته Fractal و Analytics Vidhya إلى جانب متحدثين مثل راجات مونغا (مؤسس TensorFlow)، سرينيفاس (مؤسس Fractal). إليك الـ رابط العرض التقديمي.
- نيكوج قدم عرضًا في TechCrunch Disrupt 2022- startup BattleFielد
- بالإضافة إلى ذلك، لدينا مجتمع نشط على Slack. انضموا إلينا!
- ساهم عشرات الأشخاص من المجتمع في TrueFoundry، وأبرز المشاريع هي متاحة هنا.
- بعض من أشهر محتوانا يشمل- الوقت قضى على نموذج تعلم الآلة الخاص بي، نموذج تعلم آلة مؤثر - ما مدى صعوبة ذلك؟، Kubernetes لعلماء البيانات - استضافة التنبؤات
تأملات
بينما نسترجع ذكريات هذا العام المذهل، أخذنا نحن كمؤسسين خطوة للوراء أيضًا للتفكير والتأمل فيما سار على ما يرام وما لم يسر على ما يرام. نشارككم جميعًا دروسنا، إخفاقاتنا وإنجازاتنا-
الدروس المستفادة
- النهج التقليدي لـ العمل مع شركاء التصميم قبل بناء المنتج لا يعمل جيدًا عندما تكون تبني أدوات تطوير تتعامل مع البنية التحتية للإنتاج. قضينا الأشهر الثلاثة إلى الأربعة الأولى في القيام بذلك.
- إذا كان منتج البنية التحتية يستغرق X من الوقت للبناء، فإنه يستغرق ضعف هذا الوقت (2X) للاختبار والإطلاق. الاستهانة بالتعقيد كانت خطأً من جانبنا أدت إلى تعطيل جداول إطلاق المنتج.
- لا تعقد شراكات تصميم مع شركات بعيدة عن سوقك المستهدف بحجة سهولة التبني. قضينا بضعة أشهر نعمل مع شركات أصغر بينما منتجنا مخصص للأسواق الراقية والشركات الكبرى. بالنظر إلى الوراء، كان هذا خطأ مبتدئ.
إخفاقات
ارتكبنا بعض الأخطاء في تنفيذنا والتي نحتاج إلى تصحيح مسارها:
- قضينا الكثير من الوقت في التحدث مع صناع القرار داخل الشركات والحصول على ملاحظاتهم حول المنتج، ولكن في النهاية، مستخدمو منصتنا هم المطورون. نحن بحاجة إلى بناء قناة أقوى للبقاء على اتصال مع المطورين!
- كشركة، نحن لم نقضِ وقتًا كافيًا في الترويج لمنصتنا، المشاركة في المؤتمرات، إلقاء المحاضرات و حضور الفعاليات المجتمعية.
- من المفهوم أن رحلة منتجنا طويلة. لم نقم بعمل رائع في تقسيمها إلى مراحل قابلة للإطلاق. القيام بذلك سيجعل مستخدمينا يبقون أكثر ارتباطًا بالمنتج.
إنجازات
- لقد بنينا فريقًا عالي الجودة بسرعة كبيرة. حرفيًا، كل عضو في فريقنا، بمن فيهم المؤسسون، يعتقدون أن هذا هو الفريق الأكثر كثافة بالمواهب الذي عملوا معه، على الرغم من عملهم مع فرق عالية الأداء للغاية.
- نحن فخورون بجودة المنتج وسرعة التنفيذ. نتحدث عن هذا بناءً على تجربتنا الشخصية وما نسمعه من عملائنا.
- دعم عملاء ممتاز ووقت استجابة سريع- تم الرد على كل رسالة تقريبًا من عملائنا في غضون دقائق قليلة!
العام القادم 2023
بينما كان عام 2022 عامًا تأسيسيًا مليئًا بالمرح لمنصة TrueFoundry، سيكون عام 2023 أكثر إثارة - حيث ستصل المنصة إلى المزيد من المستخدمين ونستعد للخروج من النسخة التجريبية الخاصة. نستقبل عام 2023 بحماس الأطفال الذين يستقبلون عامًا دراسيًا جديدًا. نحن متحمسون للابتكار والبناء والتعلم والنمو، مرة أخرى في عام 2023، ولإحداث تأثير إيجابي في العالم بجعل الذكاء الاصطناعي متاحًا للجميع.
نتمنى لكم جميعًا عامًا جديدًا سعيدًا جدًا! من نيكونج، أنوراج، أبهيشيك وفريق TrueFoundry بأكمله.
TrueFoundry هي منصة كخدمة (PaaS) لنشر تعلم الآلة (ML) فوق Kubernetes لتسريع سير عمل المطورين مع منحهم مرونة كاملة في اختبار ونشر النماذج، وضمان الأمان والتحكم الكامل لفريق البنية التحتية. من خلال منصتنا، نمكّن فرق تعلم الآلة من نشر ومراقبة النماذج في 15 دقيقة بموثوقية وقابلية للتوسع بنسبة 100%، والقدرة على التراجع في ثوانٍ - مما يسمح لهم بتوفير التكلفة وإطلاق النماذج إلى الإنتاج بشكل أسرع، مما يتيح تحقيق قيمة تجارية حقيقية.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.
The fastest way to build, govern and scale your AI

















.png)
.webp)










.webp)






