يسعدنا الإعلان عن تكامل استراتيجي بين TrueFoundry و TrojAI، يجمعان بين طبقتين حيويتين من بنية الذكاء الاصطناعي الحديثة:

• بوابة TrueFoundry للذكاء الاصطناعي، وهي مستوى تحكم للمؤسسات للوصول إلى نماذج اللغة الكبيرة (LLM)، وقابلية المراقبة، وتوجيه حركة المرور، وتحسين زمن الاستجابة
• جدار حماية TrojAI Defend للذكاء الاصطناعي، الذي يوفر أمانًا في الوقت الفعلي، وتطبيق السياسات، وحماية ضد تهديدات الذكاء الاصطناعي أثناء التشغيل

معًا، تقدم هذه الشراكة أساسًا آمنًا وقابلًا للمراقبة وقابلًا للتوسع لنشر الذكاء الاصطناعي التوليدي في بيئات الإنتاج.

فجوات الرؤية والتحكم في الذكاء الاصطناعي 

تقوم الشركات بسرعة ببناء ونشر الذكاء الاصطناعي التوليدي (GenAI) في بيئات الإنتاج، لكن البنية التحتية الأساسية لم تواكب ذلك. تعاني الفرق من وصول مجزأ إلى العديد من مزودي نماذج اللغة الكبيرة (LLM)؛ ونقص الرؤية حول استخدام نماذج اللغة الكبيرة، وزمن الاستجابة، والأعطال؛ وحركة مرور الذكاء الاصطناعي المعقدة والدقيقة التي يمكن أن تثير تهديدات مثل حقن الأوامر (prompt injections)، وتسرب البيانات الحساسة، والسمية. وهذا يجعل الأمر يزداد صعوبة على الشركات التي تسعى لبناء ونشر الذكاء الاصطناعي بطريقة متسقة وآمنة وقابلة للتوسع. وهذه هي الفجوة التي تعمل TrueFoundry و TrojAI على سدها معًا.

معيار جديد: بوابة الذكاء الاصطناعي + دفاع الذكاء الاصطناعي

يقدم هذا التكامل فصلًا واضحًا للمسؤوليات يساعد الشركات على معالجة البنية التحتية لنماذج اللغة الكبيرة (LLM) وإدارة حركة المرور بالإضافة إلى أمن الذكاء الاصطناعي. 

TrueFoundry: بوابة الذكاء الاصطناعي

TrueFoundry توفر مستوى تحكم موحدًا لجميع حركة مرور الذكاء الاصطناعي، مما يمكّن الفرق من مركزة الوصول عبر أكثر من 250 نموذجًا من خلال واجهة برمجة تطبيقات واحدة (API)؛ وتطبيق المصادقة، وحدود المعدل، والحصص؛ ومراقبة كل شيء. يشمل ذلك زمن الاستجابة، والرموز (tokens)، والتكاليف، والأعطال. في النهاية، يمكّن هذا الشركات من تحسين الأداء والرؤية في وكلاء وتطبيقات الذكاء الاصطناعي الخاصة بها من خلال لوحة تحكم موحدة. 

TrojAI: جدار حماية الذكاء الاصطناعي

TrojAI هي منصة لأمن الذكاء الاصطناعي تساعد الشركات على تقييم مخاطر الذكاء الاصطناعي لديها من خلال فرق الاختراق الآلي والحماية ضد التهديدات النشطة أثناء التشغيل. يعمل TrojAI Defend بشكل مباشر كوكيل لتطبيق السياسات أثناء التشغيل، مما يضمن أن كل طلب واستجابة آمن ومتوافق، مع إمكانيات لحظر حركة المرور أو تنقيحها أو تمريرها. بفضل محرك سياسات شامل، يوفر TrojAI عددًا من مجموعات القواعد المدعومة بالذكاء الاصطناعي، مثل:

• حماية ضد الهجمات العدائية تشمل حقن الأوامر، واختراق القيود، وتسرب أوامر النظام
• منع تسرب البيانات (معلومات التعريف الشخصية، الأسرار، الملكية الفكرية)
• الإشراف على المحتوى الضار وغير الآمن، بما في ذلك القواعد المخصصة

تعمل TrojAI في الوقت الفعلي وعلى نطاق واسع، مما يساعد الشركات العالمية على حماية أصولها من الذكاء الاصطناعي مع تطور مشهد التهديدات.

أفضل معًا: قابلية التوسع والأمان

كل منصة على حدة تحل مشكلة حاسمة. تساعد TrueFoundry الشركات على التحكم في حركة مرور الذكاء الاصطناعي ومراقبتها، بقدرات رئيسية تشمل التحكم في الوصول، وإمكانية المراقبة، والتوجيه الذكي لحركة المرور. بينما تراقب TrueFoundry حركة المرور، تتكامل بشكل أصلي مع TrojAI للمراقبة والحماية ضد التهديدات المشبوهة والضارة. معًا، يشكلان مستوى إدارة موحدًا للذكاء الاصطناعي يمتد من التحكم إلى التنفيذ. بينما تحكم TrueFoundry كيفية تدفق حركة المرور، تحكم TrojAI ما هو مسموح به من حركة المرور.

"من خلال التكامل مع بوابة الذكاء الاصطناعي من TrueFoundry، نقدم تطبيقًا فوريًا ومباشرًا على حركة مرور الإنتاج، بحيث يمكن للفرق التحرك بسرعة دون تعريض أنفسهم لحقن الأوامر، وتسرب البيانات، ومحتوى الذكاء الاصطناعي غير المرغوب فيه،" قال لي واينر، الرئيس التنفيذي لشركة TrojAI. "معًا، نحدد كيف يجب أن يبدو مكدس الذكاء الاصطناعي الآمن والجاهز للإنتاج." 

"تحتاج الشركات إلى بنية تحتية للذكاء الاصطناعي حيث لا تكون الحوكمة والأمان محادثات منفصلة،" قال أنوراغ غوتغوتيا، الرئيس التنفيذي لشركة TrueFoundry. "من خلال دمج TrojAI Defend مباشرة في بوابة الذكاء الاصطناعي من TrueFoundry، نمنح الفرق مكدس إنتاج واحدًا حيث يتم التحكم في كل طلب وحمايته. هذا هو الأساس لنشر وكلاء الذكاء الاصطناعي بثقة وعلى نطاق واسع." 

البدء مع TrueFoundry × TrojAI

TrojAI متاح بشكل أصلي في TrueFoundry، مما يجعل التكامل سريعًا ومباشرًا.

في لوحة تحكم TrojAI، يقوم المستخدمون أولاً بإنشاء سياسة واختيار مجموعات القواعد ذات الصلة لفحص حركة مرور تطبيقاتهم (مثل حقن الأوامر، تسرب البيانات). بمجرد بناء السياسة، يمكن للمستخدمين تمكين تكامل TrojAI داخل TrueFoundry من خلال توفير معرف العميل وعنوان URL للخدمة المطبقين.

بمجرد التكوين داخل TrueFoundry، ترسل تطبيقات ووكلاء الذكاء الاصطناعي الطلبات إلى بوابة الذكاء الاصطناعي. يمكن تكوين TrueFoundry للمصادقة وتطبيق ضوابط الوصول؛ وتوجيه حركة المرور بناءً على زمن الاستجابة أو التكلفة أو السياسة؛ والتقاط السجلات والمقاييس والتتبعات.

يمكن نشر TrojAI إما كطبقة وكيل لتطبيق حركة المرور في الوقت الفعلي أو كخدمة حماية لمراقبة حركة المرور القائمة على واجهة برمجة التطبيقات (API). عندما يتم إعادة توجيه الطلبات إلى TrojAI، يقوم TrojAI بفحص الأوامر بحثًا عن نية خبيثة ويطبق سياسات الأمان والامتثال ذات الصلة. 

تصل الطلبات التي تم تمريرها إلى مزود النموذج. يتم تمرير الاستجابات مرة أخرى عبر TrojAI وإعادة تصفيتها بحثًا عن السمية أو المخرجات العدائية أو تسرب البيانات الحساسة. يتم تمرير الأحداث مرة أخرى إلى TrojAI للرؤية والمراقبة.

تسجل TrueFoundry دورة حياة التفاعل الكاملة من خلال قدراتها المدمجة لتمكين المراقبة والتوجيه. يشمل ذلك تسجيل الطلبات/الاستجابات، وتتبع زمن الاستجابة، ومراقبة الرموز والتكلفة، وتجاوز الفشل وموازنة التحميل.

مستقبل البنية التحتية للذكاء الاصطناعي

سيُبنى مستقبل أنظمة الذكاء الاصطناعي على مكدسات بنية تحتية شاملة للذكاء الاصطناعي تجمع بين بوابات التحكم وقابلية التوسع وحماية وقت التشغيل للأمان والتطبيق. مع TrueFoundry × TrojAI، أصبح هذا المستقبل حقيقة بالفعل. 

يتيح هذا التكامل نشرًا أسرع في بيئة الإنتاج من خلال السماح للفرق بنشر تطبيقات الذكاء الاصطناعي التوليدي دون إعادة بناء البنية التحتية أو الأمان من الصفر. كما يوفر رؤية شاملة، مما يمنح الفرق عرضًا موحدًا لكل طلب، بالإضافة إلى التكاليف ومقاييس زمن الاستجابة المرتبطة به، كل ذلك في مكان واحد. ومع الأمان المدمج حسب التصميم، يمكن للمؤسسات الحماية من التهديدات الناشئة مثل حقن الأوامر وسرقة البيانات. وفي الوقت نفسه، يحافظ على حرية استخدام نماذج متعددة، مما يسهل التوجيه عبر موفري الخدمة دون التضحية بالحوكمة أو الأمان.

ابدأ الآن

• تعرف على المزيد حول بوابة TrueFoundry AI: https://www.truefoundry.com/ai-gateway
• تعرف على تكامل TrojAI: https://www.truefoundry.com/docs/ai-gateway/trojai 
• تواصل مع TrojAI لتمكين حماية جدار حماية الذكاء الاصطناعي Defend في مكدسك: https://troj.ai/contact-us