كيف تدير FloQast الذكاء الاصطناعي للمؤسسات على نطاق واسع باستخدام TrueFoundry

FloQast هي منصة لتحويل المحاسبة تستخدمها فرق المالية والمحاسبة لإدارة الإغلاق المالي والتسويات والامتثال. مع قيام الشركة بدمج نماذج اللغة الكبيرة عبر منتجاتها، بدءًا من مطابقة المعاملات وتحليل التباين وصولاً إلى مساعدة إدخالات اليومية ومساعدي التسوية، كانت بحاجة إلى طريقة لتشغيل الذكاء الاصطناعي في بيئة الإنتاج تلبي المعايير التي تلتزم بها شركات البرمجيات المالية: الحوكمة الصارمة للبيانات، وتوطين البيانات الإقليمي، والأمان، والموثوقية. في دراسة الحالة هذه، نستكشف كيف استخدمت FloQast بوابة TrueFoundry للذكاء الاصطناعي لمركزة وتأمين وتوسيع نطاق البنية التحتية لنماذج اللغة الكبيرة والوكلاء عبر مؤسستها.

التحدي: الذكاء الاصطناعي في بيئة الإنتاج تحت حوكمة بمستوى مالي

تعمل FloQast في مجال منظم وواعٍ للأمان. لم يكن بناء ميزات الذكاء الاصطناعي مجرد مسألة استدعاء واجهة برمجة تطبيقات نموذج، بل تطلب التحكم في مكان وجود البيانات، ومن يمكنه الوصول إلى أي من الإمكانيات، وكيفية مراقبة وتأمين كل طلب.

برزت ثلاثة متطلبات. أولاً، توطين البيانات وحوكمتها: كان يجب تخزين الموجهات والتتبعات في البنية التحتية الخاصة بـ FloQast والاحتفاظ بها ضمن مناطق محددة: الولايات المتحدة والاتحاد الأوروبي وآسيا والمحيط الهادئ، ثم توجيهها عبر بوابات خاصة بالمنطقة وصولاً إلى نقاط نهاية مزود النموذج المطابقة. ثانياً، التحكم المركزي: مع قيام المزيد من الفرق بإطلاق ميزات الذكاء الاصطناعي باستخدام مزودي نماذج متعددين، احتاجت FloQast إلى نقطة واحدة لإدارة الاستدلال، وإدارة خوادم ووكلاء MCP، والحفاظ على قابلية المراقبة ورؤية التكلفة. ثالثاً، الأمان والوصول بأقل الامتيازات: بصفتها شركة مالية، احتاجت FloQast إلى حواجز وقائية ضد التهديدات مثل حقن SQL والقدرة على تحديد نطاق الوصول بدقة بحيث تتطابق مفاتيح API فقط مع إمكانيات نماذج اللغة الكبيرة المحددة التي يحتاجها الفريق بالفعل.

"التأكد من أن الموقع الفعلي لتخزين موجهاتنا وتتبعاتنا يتوافق مع ما إذا كانت المنطقة هي الاتحاد الأوروبي أو آسيا والمحيط الهادئ أو الولايات المتحدة، والقدرة على توجيه ذلك بسهولة عبر بوابات محددة، وأن يكون التخزين في مواقع S3 المرتبطة بتلك المناطق الثلاث، كان فائدة عظيمة لـ TrueFoundry."

— كولين سيدبيري، مهندس برمجيات، Floqast

الحل: بوابة واحدة للاستدلال، وMCP، والحواجز الوقائية، والتوجيه

اعتمدت FloQast بوابة TrueFoundry للذكاء الاصطناعي كلوحة تحكم لجميع حركة مرور الذكاء الاصطناعي الخاصة بها. ما لفت انتباه الفريق هو مدى الإمكانيات المدمجة التي توفرها.

"لا تدرك مدى تكامل المنتج إلا عندما تتعمق في البحث وتكتشف طبقات إضافية في كل زاوية، وتدرك مدى قوة TrueFoundry الجاهزة للاستخدام: إدارة خوادم MCP، والوكلاء، والمطالبات التي تستخدمها، ومساحة الاختبار في واجهة المستخدم لتتمكن من الاختبار دون إعداد بنيتك التحتية الخاصة، بالإضافة إلى استدلال نماذج اللغة الكبيرة (LLM). إنه حل متكامل يضم الكثير."

عندما طُلب منه تسمية أهم القدرات لفريق FloQast، أشار كولين إلى عدد قليل منها.

1. وكيل نماذج اللغة الكبيرة (LLM) كقلب البنية التقنية

طبقة الاستدلال الموحدة هي ما تتغذى عليه جميع المكونات الأخرى. إضافة مزود نموذج جديد مثل Anthropic أو OpenAI أو Google Gemini أو غيرهم أمر سريع وبسيط. في آخر 90 يومًا وحدها، وجهت FloQast حركة المرور عبر ستة مزودين (من بينهم Anthropic وOpenAI وAWS Bedrock وGoogle Vertex)، حيث تحمل Claude Sonnet 4.6 من Anthropic الجزء الأكبر من الحجم عبر نقاط النهاية الخاصة بها في الولايات المتحدة والاتحاد الأوروبي. عالجت البوابة ما يقرب من 15.1 مليار رمز إدخال و285 مليون رمز إخراج عبر 3.9 مليون طلب نموذج.

2. تجزئة حسب الميزة لرؤية التكلفة

تضيف FloQast حسابات افتراضية فوق الوكيل لتجزئة الاستدلال حسب ميزة المنتج المحددة التي يتم طرحها. وهذا يسهل تتبع الإنفاق لكل ميزة ومعرفة إلى أين تذهب ميزانية نماذج اللغة الكبيرة (LLM)، وما هي الميزات الأكثر استخدامًا، وأين يحصل الفريق على أكبر قيمة.

"يمكننا بسهولة إضافة وكيل آخر فوقه حتى نتمكن من تجزئة استدلال نماذج اللغة الكبيرة (LLM) حسب الميزة الفعلية التي نطرحها. إنها طريقة سهلة لتتبع التسعير لكل ميزة، لذلك لدينا رؤية واضحة للميزة الأكثر استخدامًا وأين نحقق أقصى استفادة من ميزانية نماذج اللغة الكبيرة (LLM) الخاصة بنا."

— كولين سيدبيري، مهندس برمجيات، Floqast

يظهر هذا مباشرة في البيانات: كل حساب من الحسابات الافتراضية المميزة (أعباء عمل التحويل، FDM، JEM، التباين، والتسوية) يحمل مئات الآلاف من الطلبات، مع تتبع إجمالي الإنفاق على الاستدلال بما يقرب من 25 ألف دولار خلال الفترة، ويمكن نسبته بالكامل إلى الميزة.

3. ضوابط للأمن والامتثال

تطبق FloQast مجموعة من إجراءات الحماية الأمنية عبر البوابة، مثل اكتشاف معلومات التعريف الشخصية (PII)، واكتشاف الأسرار، ومعقم SQL لهجمات الحقن، والدفاع ضد حقن الأوامر، والإشراف على المحتوى، وفحص الكود. على مدار 90 يومًا، قامت البوابة بتقييم أكثر من 80 ألف فحص حماية مع إضافة فقط حوالي 53 مللي ثانية من متوسط زمن الاستجابة، مع تحديد الطلبات الخطرة دون إبطاء المنتج.

"سهولة إعداد إجراءات الحماية حتى نتمكن من مواجهة هجمات حقن SQL وغيرها من إجراءات الحماية التي نرغب بها كأفضل الممارسات الأمنية وللامتثال البرمجي، لأننا شركة مالية، والقدرة على تحديد نطاق الوصول إلى الحد الأدنى من الامتيازات عبر مفاتيح API الخاصة بك، بحيث يمكنك ربط مفاتيح معينة بوظائف LLM محددة بدلاً من أن يكون للجميع وصول كامل. أنت تمنحهم فقط ما يحتاجونه."

— كولين سيدبيري، مهندس برمجيات، Floqast

إدارة بروتوكول MCP والوكلاء

بالإضافة إلى الاستدلال الخام، تستخدم FloQast البوابة لإدارة خوادم بروتوكول سياق النموذج (MCP) الخاصة بها، وهي الأدوات التي تستدعيها وكلاء الذكاء الاصطناعي لديها لقراءة البيانات المالية، واسترداد القواعد، وسحب بيانات الجداول، والتعامل مع قيود اليومية. تعاملت بوابة MCP مع 139 ألف استدعاء أداة عبر خوادم مثل playbook و transform و FDM و JEM، بمتوسط زمن استجابة يبلغ 389 مللي ثانية، مما يوفر لـ FloQast واجهة موحدة ومحكومة لاستخدام أدوات الوكلاء جنبًا إلى جنب مع استدعاءات النموذج.

دعم يضمن التواصل الفعال عبر المناطق الزمنية

أبرزت FloQast تجربة الدعم كعامل تمييز. يعمل الفريق مع TrueFoundry عبر قناة Slack مخصصة، ومؤخرًا، من خلال مساعد دعم يعمل بالذكاء الاصطناعي يجيب في غضون دقائق، وهو أمر قيّم لفريق لا يتواجد دائمًا في نفس المنطقة الزمنية.

"لقد كان العمل مع فريق دعم TrueFoundry رائعًا حقًا. لدينا قناة Slack مخصصة، والفريق سريع الاستجابة للغاية، ونظام الذكاء الاصطناعي الذي أطلقتموه قبل بضعة أشهر كان مفيدًا جدًا؛ إنه يستجيب في غضون دقائق، ودقة المعلومات كانت ممتازة، ويتابع فريق الدعم بعد ذلك بوقت قصير للتأكد مما إذا كانت هناك أي أسئلة إضافية."

— كولين سيدبيري، مهندس برمجيات، Floqast

النتائج: ذكاء اصطناعي موثوق به وخاضع للحوكمة على نطاق واسع

من خلال التركيز على TrueFoundry، حوّلت FloQast بصمة الذكاء الاصطناعي المعقدة والمتعددة المزودين والمناطق إلى منصة واحدة خاضعة للحوكمة.

خلال فترة التسعين يومًا الأخيرة، عالجت البوابة أكثر من 4 ملايين طلب عبر إكمال الدردشات والاستجابات والتضمينات ومكالمات MCP، مع الحفاظ على معدل نجاح بنسبة 98.9% في حركة مرور النموذج. وجه التوجيه الذكي 3.73 مليون طلب عبر قواعد توجيه النموذج الافتراضي بمعدل فشل في التوجيه يقارب 0.04%. والأهم من ذلك، تم تشغيل كل هذا مع المطالبات والتتبعات المخزنة داخل البنية التحتية الخاصة بـ FloQast، منطقة تلو الأخرى، مما يحافظ على وضع حوكمة البيانات الذي تتطلبه شركة برمجيات مالية، مع توفير مكان واحد للفريق للمراقبة وبيانات التكلفة وأفضل ممارسات الأمان.

“بالتأكيد، لقد كان هذا تغييرًا جذريًا. كانت الموثوقية هي شاغلنا الرئيسي عند البحث عن بوابة. حقيقة أن كل شيء يمكن تخزينه داخل بنيتنا التحتية الخاصة، مما يسمح لنا بالاحتفاظ بقواعد حوكمة البيانات الخاصة بنا للتتبعات والمطالبات، بالإضافة إلى نقطة مركزية للمراقبة وبيانات التسعير وتغطية أفضل ممارسات الأمان، كان هذا مفيدًا حقًا.”

— Colin Sidberry، مهندس برمجيات، Floqast

النقاط الرئيسية للفرق التي تتبنى بوابة ذكاء اصطناعي

تحكم في إقامة البيانات منذ اليوم الأول. بالنسبة للصناعات الخاضعة للتنظيم، حيث يُعدّ مكان تخزين المطالبات والتتبعات في منطقة معينة متطلبًا أساسيًا لا ثانويًا. سمح توجيه الاستدلال عبر بوابات خاصة بالمنطقة إلى نقاط نهاية المزودين لـ FloQast بالاحتفاظ بالبيانات في المكان الصحيح تلقائيًا.

مركزة الاستدلال، ثم تقسيمه. وكيل واحد لجميع مزودي النماذج، مع حسابات افتراضية لكل ميزة مضافة فوق ذلك، منح FloQast بساطة التكامل الواحد ودقة تحديد التكلفة والاستخدام لكل ميزة على حدة.

تعامل مع الضوابط الوقائية والوصول بأقل امتيازات كبنية تحتية افتراضية. إن تشغيل ضوابط وقائية للبيانات الشخصية (PII) والأسرار وحقن SQL وحقن المطالبات عند البوابة، وتحديد نطاق مفاتيح API لقدرات محددة، يبني الأمان في كل طلب بدلاً من إضافته لكل تطبيق على حدة.

استثمر في عملية الإعداد المبكر. مع توفر الكثير من الإمكانيات، ينصح كولين المهندسين الآخرين بالتنسيق بعمق مع فريق TrueFoundry مقدمًا لإعداد الأمور بشكل صحيح والاستفادة الكاملة مما هو مدمج.

«هناك الكثير من التعقيدات المضمنة، لذا من السهل إعداد الأمور بطريقة خاطئة. ما كان مفيدًا حقًا هو إجراء غوص عميق مع الفريق مبكرًا لاستعراض ما كنا نحاول القيام به والحصول على تبادل معرفي حول كيفية تنفيذه بشكل أفضل. لو كان بإمكاني العودة والقيام بذلك أولاً، لكان قد جعل كل شيء أسهل.»

— كولين سيدبيري، مهندس برمجيات، Floqast

خاتمة

تُظهر تجربة FloQast أن تشغيل الذكاء الاصطناعي في مجال منظم ويضع الأمان أولاً لا يعني بالضرورة بناء بنية تحتية للحوكمة من الصفر. من خلال التوحيد القياسي على بوابة TrueFoundry للذكاء الاصطناعي للاستدلال، وإدارة MCP والوكلاء، والضوابط الوقائية، والتوجيه مع الاحتفاظ بالبيانات في سحابتهم الخاصة، توسعت FloQast لتلبية ملايين الطلبات الخاضعة للحوكمة عبر ستة مزودي نماذج، مع الحفاظ على الموثوقية، وتوطين البيانات، وأمان الامتيازات الأقل التي يتوقعها عملاؤهم.