دمج AnythingLLM مع بوابة TrueFoundry AI

شهد مجتمع التكنولوجيا نموًا هائلاً لمنصات الذكاء الاصطناعي مثل AnythingLLM. لقد مكنت هذه المنصات جيلًا جديدًا من المطورين، من علماء البيانات إلى مديري المنتجات، من ابتكار ونشر تطبيقات مدعومة بالذكاء الاصطناعي بسرعة. إن القدرة على ربط المطالبات والأدوات وقواعد بيانات المتجهات دون كتابة سطر واحد من التعليمات البرمجية قد سرعت وتيرة الابتكار بشكل كبير، مما يسمح بإنشاء نماذج إثبات المفهوم في ساعات بدلاً من أسابيع.

ومع ذلك، كشفت هذه التجارب السريعة عن فجوة حرجة في الحوكمة. مع تطور هذه الأدوات إلى تطبيقات مولدة للقيمة، تواجه فرق المنصات مجموعة جديدة من التحديات. غالبًا ما يتواصل كل مكون داخل بيئة منخفضة التعليمات البرمجية مع نقطة نهاية نموذج مختلفة، لكل منها مفتاح API خاص بها، وكل منها يسجل الاستخدام في بوابة منفصلة. هذا التجزئة يجعل من المستحيل تقريبًا الإجابة على الأسئلة الأساسية التي يجب على كل رئيس تنفيذي للمعلومات (CIO) معالجتها:

• من يستخدم أي نماذج ذكاء اصطناعي؟
• ما هي التكلفة المرتبطة بذلك؟
• هل الاستخدام آمن ومتوافق؟

هنا يأتي دور بوابة TrueFoundry للذكاء الاصطناعي . من خلال توفير طبقة مركزية لإدارة جميع تفاعلات الذكاء الاصطناعي/تعلم الآلة، تمكّن البوابة المؤسسات من تبني سرعة ومرونة المنصات منخفضة التعليمات البرمجية دون التضحية بالأمان أو التحكم أو كفاءة التكلفة.

لماذا يحتاج AnythingLLM إلى بوابة

AnythingLLM سرعان ما أصبح المفضل لدى المطورين والمؤسسات التي تسعى لبناء تطبيقات ذكاء اصطناعي خاصة وشاملة. إن دعمه لأنواع المستندات المختلفة والنماذج المخصصة والخصوصية الكاملة يجعله أداة قوية للاستفادة من نماذج اللغة الكبيرة (LLMs). ومع ذلك، كما هو الحال مع أي أداة قوية، مع توسع استخدامها عبر المؤسسة، تصبح الحاجة إلى حوكمة مركزية أمرًا بالغ الأهمية. هنا يصبح التكامل مع بوابة TrueFoundry للذكاء الاصطناعي ضروريًا.

من خلال توجيه جميع استدعاءات نماذج اللغة الكبيرة (LLM) الخاصة بـ AnythingLLM عبر البوابة، تحصل على مجموعة من الميزات على مستوى المؤسسات التي تعتبر حاسمة لأي تطبيق ذكاء اصطناعي على مستوى الإنتاج:

• المصادقة المركزية والتحكم في الوصول: إدارة جميع مفاتيح API الخاصة بك في مكان واحد، باستخدام رموز مميزة محددة النطاق للمشروع تضمن أن المستخدمين والتطبيقات المصرح لهم فقط يمكنهم الوصول إلى نماذج محددة.
• مراقبة موحدة وتتبع التكاليف: احصل على رؤية شاملة لاستخدامك للذكاء الاصطناعي. تتبع استهلاك الرموز وزمن الاستجابة والتكاليف عبر جميع نماذجك وتطبيقاتك في الوقت الفعلي.
• أمان قوي وامتثال: تعمل البوابة كطبقة لفرض الأمان، مع ميزات مثل إخفاء معلومات التعريف الشخصية (PII)، وتحديد المعدل، وتسجيل التدقيق لضمان امتثال استخدامك للذكاء الاصطناعي للوائح الصناعية.
• الاستقلالية عن البائعين وضمان المستقبل: يمكنك التبديل بسهولة بين موفري نماذج اللغة الكبيرة (LLM) المختلفين (على سبيل المثال، من OpenAI إلى Anthropic) دون تغيير سطر واحد من التعليمات البرمجية في تطبيق AnythingLLM الخاص بك.

لمحة عن المستقبل: الأهمية الاستراتيجية لبوابات نماذج اللغة الكبيرة (LLM)

إن دمج منصات الذكاء الاصطناعي منخفضة التعليمات البرمجية مع أفضل بوابة لنموذج اللغة الكبيرة (LLM) هو أكثر من مجرد راحة تقنية؛ إنه ضرورة استراتيجية. مع تزايد تحول الذكاء الاصطناعي إلى سلعة، ستصبح القدرة على تنسيق استخدام الذكاء الاصطناعي وإدارته وتأمينه بفعالية عامل تمييز تنافسي رئيسي.

ورقة بحثية حديثة، "Portcullis: بوابة خصوصية قابلة للتطوير والتحقق لاستدلال نماذج اللغة الكبيرة (LLM) من أطراف ثالثة،" تسلط الضوء على الأهمية المتزايدة لبوابات الحفاظ على الخصوصية في عصر الذكاء الاصطناعي التوليدي. تقدم الورقة البحثية نهجًا جديدًا لحماية البيانات الحساسة عن طريق إخفاء هويتها قبل أن تصل إلى نموذج اللغة الكبيرة (LLM). يتم تحقيق ذلك من خلال عملية "الاستبدال المتوازي"، حيث يتم استبدال البيانات الحساسة بعناصر نائبة قبل إرسالها إلى نموذج اللغة الكبيرة (LLM) ثم يتم إعادة بنائها بدقة في الاستجابة. يؤكد هذا البحث الدور الحاسم الذي ستلعبه البوابات في تمكين استخدام نماذج الذكاء الاصطناعي القوية في الصناعات الخاضعة للتنظيم مثل التمويل والرعاية الصحية.

من خلال دمج AnythingLLM مع بوابة الذكاء الاصطناعي من TrueFoundry، أنت لا تحل تحديات الحوكمة الحالية فحسب؛ بل تبني بنية ذكاء اصطناعي مقاومة للمستقبل وجاهزة للتوسع مع احتياجات مؤسستك.

الدمج في 5 خطوات بسيطة

يعد دمج AnythingLLM مع بوابة الذكاء الاصطناعي من TrueFoundry عملية مباشرة يمكن إكمالها في بضع دقائق فقط. إليك الطريقة:

1. أنشئ رمز الوصول الخاص بك إلى TrueFoundry:

• انتقل إلى لوحة تحكم TrueFoundry الخاصة بك وانتقل إلى إدارة الوصول.
• انقر رمز وصول شخصي جديد لإنشاء رمز جديد.
• انسخ رمز الوصول الشخصي الخاص بك وقم بتخزينه بأمان.

2. الوصول إلى إعدادات نموذج اللغة الكبير (LLM) في AnythingLLM:

• قم بتشغيل تطبيق AnythingLLM الخاص بك.
• انتقل إلى الإعدادات ثم اذهب إلى تفضيلات نموذج اللغة الكبير (LLM).

3. قم بتكوين موفر OpenAI العام:

• في مربع البحث عن موفر نموذج اللغة الكبير (LLM)، اكتب "Generic OpenAI" واختره.
• عنوان URL الأساسي: أدخل عنوان URL الأساسي لبوابة TrueFoundry الخاصة بك (على سبيل المثال، https://<your-company>.truefoundry.cloud/api/llm/api/inference/openai).
• مفتاح API: أدخل رمز الوصول الشخصي الخاص بك من TrueFoundry.
• اسم نموذج الدردشة: أدخل معرف النموذج الخاص بك من TrueFoundry (على سبيل المثال، openai-main/gpt-4o).
• نافذة سياق الرمز المميز والحد الأقصى للرموز المميزة: قم بتكوين هذه بناءً على حدود نموذجك.

4. احصل على معلومات النموذج من TrueFoundry:

• انتقل إلى بوابة TrueFoundry AI الخاصة بك للحصول على معرف النموذج الصحيح.
• انسخ معرف النموذج والصقه في حقل AnythingLLM اسم نموذج الدردشة .

5. اختبر تكاملك:

• احفظ إعداداتك في AnythingLLM.
• أنشئ مساحة عمل جديدة أو افتح مساحة عمل موجودة وأرسل رسالة اختبار للتحقق من التكامل.

يمكنك العثور على شرح تفصيلي أكثر، مكتمل بلقطات الشاشة، في وثائقنا

تطبيق AnythingLLM الخاص بك متكامل الآن بسلاسة مع بوابة TrueFoundry AI، مما يمنحك أفضل ما في العالمين: سرعة ومرونة منصة الذكاء الاصطناعي منخفضة التعليمات البرمجية، وأمان وتحكم بوابة على مستوى المؤسسات.