Blank white background with no objects or features visible.

تحية إلى منطقة أوروبا والشرق الأوسط وأفريقيا! توسع TrueFoundry نطاق حضورها في هذه المنطقة الحيوية. اقرأ المزيد ←

تكامل TrueFoundry مع Smallest AI

By ريشيراج دوتا غوبتا

Updated: November 5, 2026

Published: July 2, 2026

Smallest AI وTrueFoundry AI Gateway

تتكامل نماذج تحويل النص إلى كلام وتحويل الكلام إلى نص من Smallest AI مع TrueFoundry AI Gateway عبر التمرير المباشر الأصلي (native passthrough). تتدفق الطلبات إلى نقاط نهاية REST الخاصة بـ Smallest AI للتجميع والنسخ دفعة واحدة (batch synthesis and transcription)، وإلى تدفقات أحداث المرسلة من الخادم (server sent event streams) ونقاط نهاية WebSocket المقابلة لإخراج الصوت المجزأ والنسخ المباشر. تستبدل البوابة رمز Bearer الخاص بـ Smallest AI من مخزن أوراق الاعتماد لديه، وتطبق التحكم في الوصول وتصدر نطاقات (spans) OpenTelemetry قبل توجيه الطلب أو ترقية اتصال WebSocket.

تغطي هذه التدوينة نطاق واجهة برمجة التطبيقات (API surface) لـ Smallest AI عبر عائلات TTS وSTT. كما تغطي أيضًا كيفية معالجة مستوى البوابة (gateway plane) لمسار التمرير المباشر الأصلي لنقاط نهاية الصوت غير المتوافقة مع OpenAI.

ما تقدمه Smallest AI

تقدم Smallest AI عائلتين من النماذج. Lightning هي عائلة تحويل النص إلى كلام (TTS). وPulse هي عائلة تحويل الكلام إلى نص (STT). وتعمل كلتاهما كـ نقاط نهاية REST للاستخدام التجميعي (batch)، وكـ نقاط نهاية WebSocket للاستخدام التدفقي (streaming).

نموذج Lightning v3.1 هو نموذج TTS بتردد 44 كيلوهرتز مع وقت مُعلن لأول قطعة صوتية (time to first audio) يقل عن 100 ميلي ثانية. يدعم النموذج 15 لغة مع تغطية قوية للغات الهند مثل الهندية والـ Tamil والـ Telugu والـ Malayalam والـ Kannada والـ Marathi والـ Gujarati، إلى جانب الإنجليزية والإسبانية والفرنسية والألمانية والإيطالية والبرتغالية والسويدية والهولندية. يستخدم النموذج بنية غير تكرارية (non-autoregressive) تُنشئ أجزاء الكلام بالكامل بشكل متوازٍ بدلاً من إنشائها رمزًا تلو الآخر (token by token). هذا ما يحقق زمن الانتقال المنخفض ويسمح للنموذج بالعمل في أقل من 1 جيجابايت من VRAM، مما يجعل النشر المحلي (on-premises) عملياً للبيئات الخاضعة للتنظيم.

يتم تقديم النموذج من خلال ثلاثة أشكال لنقاط النهاية:

  1. POST https://waves/v1/lightning-v3.1/get_speech. 
    1. نقطة نهاية دفعة تزامنية (synchronous batch endpoint) ترجع الملف الصوتي الكامل في جسم الاستجابة (response body). وتدعم صيغ الإخراج MP3 أو PCM أو WAV أو mulaw أو alaw، كما تدعم معدلات عينات (sample rates) من 8000 هرتز إلى 44100 هرتز. 
    2. تقبل المعلمة voice_id والمعلمة speed بين 0.5x و2x ومصفوفة اختيارية pronunciation_dicts لتجاوز المعاجم المخصصة (lexicon overrides). 
    3. كما تدعم مُعرِّفات الترابط session_id وrequest_id التي يتم إرجاعها في رؤوس الاستجابة كـ X-External-Session-Id وX-External-Request-Id. وتمر هذه المعرفات عبر البوابة دون تغيير، وهو أمر مفيد لترابط التتبع من البداية إلى النهاية (end to end trace correlation).
  2. POST https://waves/v1/lightning-v3.1/get_speech/stream. 
    1. هذا تدفق أحداث مرسلة من الخادم (server sent events stream) يرسل أجزاء الصوت تدريجياً أثناء إنشائها بواسطة النموذج.
  3. WSS /waves/v1/lightning-v3.1/get_speech/stream. 
    1. هذا اتصال WebSocket دائم يقدم أجزاء الصوت فور إنتاجها. 
    2. الاتصال قابل لإعادة الاستخدام عبر طلبات TTS متعددة، مما يقلل تكلفة إنشاء الاتصال (connection establishment cost). 

نموذج Pulse هو المقابل لـ STT. ويعمل في شكلين: POST /waves/v1/pulse/get_text يتعامل مع الصوت المسجل مسبقاً في الدفعات. وWSS /waves/v1/pulse/get_text يتعامل مع النسخ التدفقي المباشر. تقبل نقطة نهاية التدفق إطارات الصوت بتردد 8000 أو 16000 أو 22050 أو 24000 أو 44100 أو 48000 هرتز مع linear16 كترميز افتراضي. ويدعم 36 لغة مع تمكين تبديل الترميز (code switching) عبر language=multi.

تتمثل الأجزاء المثيرة للاهتمام في بروتوكول التدفق الخاص بـ Pulse للتكامل المستقر خلف البوابة في ضوابط المحتوى المضمنة. redact_pii=true يزيل معلومات التعريف الشخصية من النصوص النهائية قبل خروجها من Smallest AI. وredact_pci=true يزيل معلومات بطاقات الدفع بما في ذلك أرقام البطاقات ورموز CVV والرموز البريدية وأرقام الحسابات. وdiarization=true يفعل تجزئة المتحدثين (speaker diarization). وkeywords يقبل قائمة مفصولة بفاصلة من العبارات مع قيم تعزيز اختيارية لزيادة التعرف على المصطلحات الخاصة بالمجال مثل أسماء المنتجات أو أسماء الأدوية. وitn_normalize=true يفعل التطبيع العكسي للنص (Inverse Text Normalization) والذي يحول الأرقام والتواريخ والعملات المنطوقة إلى شكلها المكتوب في النصوص النهائية. تعتبر معلمات الحجب (redaction parameters) مهمة لأنها تدفع فرض الخصوصية إلى طبقة النموذج بدلاً من التطلب من حاجز حماية لاحق (downstream guardrail) لتنظيف النص بعد وقوع الأمر.

نموذج التزامن (Concurrency model). تقدم Smallest AI نموذج تزامن غير معتاد يستحق الفهم قبل البناء عليه. تعادل وحدة التزامن الواحدة طلب TTS نشط واحد يمكن معالجته في أي وقت محدد. ويمكن إنشاء ما يصل إلى ثلاثة اتصالات WebSocket لكل وحدة تزامن لـ TTS. لذا، يمكن للمستأجر (tenant) الذي لديه ثلاث وحدات تزامن الاحتفاظ بتسعة اتصالات WebSocket مفتوحة، ولكن ثلاثة منها فقط يمكن أن تحتوي على توليد نشط في نفس الوقت. ترفض الطلبات الإضافية المرسلة عبر أي اتصال أثناء الوصول إلى حد التزامن بخطأ بدلاً من وضعها في قائمة الانتظار. يختلف هذا عن نموذج الرموز في الدقيقة (token per minute) أو الطلبات في الدقيقة (request per minute) التقليدي، وله تأثيرات على كيفية ضبط محدد المعدل (rate limiter) الخاص بالبوابة. بالنسبة لـ STT، تعادل وحدة التزامن الواحدة اتصال websocket واحدًا.

التمرير المباشر الأصلي عبر مستوى البوابة

تم بناء TrueFoundry AI Gateway على إطار عمل Hono وتعمل كأسطول من القرون (pods) عديمة الحالة (stateless). يتعامل قرن واحد على 1 vCPU و1 جيجابايت RAM مع أكثر من 250 RPS مع زمن انتقال إضافي يبلغ حوالي 3 ميلي ثانية. يدير مستوى التحكم (control plane) التكوين في PostgreSQL وClickHouse وينشر التحديثات إلى قرون البوابة عبر NATS. تخزن قرون البوابة هذا التكوين في الذاكرة حتى لا يجري مسار الطلب أي مكالمات خارجية لاتخاذ قرارات المصادقة أو التفويض أو التوجيه.

بالنسبة للمزودين المتوافقين مع OpenAI، تترجم البوابة بين تنسيق OpenAI الوارد والتنسيق الأصلي للمزود داخل محول (adapter). لا تنطبق هذه الترجمة على Smallest AI لأن OpenAI Audio API ليس لديها ما يعادل معلمات voice_id وpronunciation_dicts وsession_id الخاصة بـ Smallest AI، ولا ما يعادل بروتوكول تدفق WebSocket الذي يقدم إخراج الصوت المجزأ لـ Lightning. لذلك، تعرض البوابة Smallest AI عبر التمرير المباشر الأصلي.

عندما يصل طلب Smallest AI إلى قرن البوابة، ينسق خط أنابيب ما قبل التوجيه (pre forwarding pipeline) نفس الفحوصات التي تجري لإكمالات الدردشة (chat completions). يتم التحقق من صحة رمز JWT المقدم في الطلب مقابل المفاتيح العامة لـ IdP المخزنة في الذاكرة المؤقتة دون مكالمة مصادقة خارجية. يتم التحقق من التفويض مقابل خريطة الذاكرة للمستخدمين إلى النماذج. يتم توجيه مُعرِّف النموذج (lightning-v3.1 أو pulse) إلى حساب Smallest AI المكوّن. يتم تجريد رأس Authorization الوارد واستبداله برمز Bearer المسترد من مخزن أوراق الاعتماد. يصبح الرابط الموجه https://api.smallest.ai/... مع الحفاظ على المسار والطريقة المتطابقين. يتم تدفق الجسم دون تغيير. بالنسبة لنقاط نهاية WebSocket، تجري البوابة مصافحة HTTP Upgrade مقابل رابط Smallest AI WebSocket. بعد نجاح الترقية، تحتفظ البوابة باتصالي WebSocket (أحدهما مع العميل والآخر مع Smallest AI) وتوجه الإطارات في كلا الاتجاهين دون تفسير الأحمال (payloads). تمر رؤوس الصدى X-External-Session-Id وX-External-Request-Id إلى المتصل كملفات سليمة.

بعد اكتمال الطلب، تنشر البوابة نطاقًا (span) إلى NATS يحتوي على المدة والحالة واسم النموذج المحلول والبيانات التعريفية للتكلفة. يقرأ مصدِّر OTEL من المسار غير التزامني ويوجه النطاق إلى الخادم الخلفي المكوّن عبر gRPC أو HTTP. تقوم خدمة التجميع (aggregator service) بتجميع بيانات التكلفة لكل مستخدم ولكل فريق ولكل نموذج.

سطح التكامل

إضافة Smallest AI إلى TrueFoundry AI Gateway تتطلب ثلاث خطوات في لوحة التحكم. انتقل إلى AI Gateway ثم Models وحدد Smallest AI. أضف حساباً عن طريق إدخال اسم حساب فريد ورمز Bearer الخاص بـ Smallest AI. يتم تخزين الرمز مشفراً في مستوى التحكم ولا يتم كشفه لقرون البوابة مباشرة أبداً. اختيارياً، أضف متعاونين للتحكم في المستخدمين والفرق الذين يمكنهم التوجيه عبر هذا الحساب. ثم سجل نموذجاً أو أكثر بالنقر على Add Model وتوفير Display name وModel ID وModel type. يجب أن يطابق Model ID مُعرِّف نموذج Smallest AI تماماً (lightning-v3.1 أو lightning-v2 أو pulse).

يستخدم الاستدلال (Inference) حزمة SDK لـ Python الخاصة بـ Smallest AI أو أي عميل HTTP مع استبدال رابط البوابة كـ رابط أساسي (base URL). يبدو عميل Python بالشكل التالي:

يعمل نفس الشكل لنقطة نهاية SSE عن طريق تغيير المسار وقراءة الاستجابة كـ تدفق (stream). تعمل نقطة نهاية WebSocket عبر أي عميل WebSocket قياسي عن طريق التوجيه إلى رابط البوابة بنظام wss. يحل رمز JWT الصادر من TrueFoundry محل رمز Bearer الخاص بـ Smallest AI في رأس Authorization. يرى عميل Smallest AI نفس حمل الاستجابة والرؤوس التي سيراها عند التحدث مع Smallest AI مباشرة لأن البوابة تحافظ على مسارات URL وأشكال الاستجابة بما في ذلك رؤوس الترابط X-External-Session-Id وX-External-Request-Id.

ملخص البنية المعمارية

تدفق البيانات من البداية إلى النهاية مباشر. يفتح العميل طلب HTTP أو اتصال WebSocket مقابل رابط البوابة باستخدام حزمة SDK لـ Python الخاصة بـ Smallest AI أو عميل HTTP وWebSocket عام. يقوم قرن البوابة بمصادقة JWT مقابل المفاتيح العامة لـ IdP المخزنة في الذاكرة المؤقتة ويوجه مُعرِّف النموذج إلى حساب Smallest AI المكوّن. يجرد رأس المصادقة الوارد ويستبدله برمز Bearer من مخزن أوراق الاعتماد. يوجه الطلب إلى https://api.smallest.ai أو يرقّي WebSocket إلى رابط wss:// المقابل. بالنسبة لجلسات WebSocket، ينشئ جسراً للإطارات في كلا الاتجاهين حتى يغلق أي من الجانبين الاتصال. بعد الاكتمال، تنشر البوابة نطاقًا (span) إلى NATS الذي يغذي مصدِّر OTEL ومجمع التكلفة.

ما هو غير مطلوب أمر لافت. لا يوجد فرع (fork) لـ SDK الخاص بـ Smallest AI. لا توجد طبقة ترجمة بين شكل OpenAI Audio ومعلمات voice_id وpronunciation_dicts الخاصة بـ Smallest AI والتي قد تفقد المعلومات عند الحد الفاصل. لا يوجد خط أنابيب تتبع ظل لزيارات الصوت منفصل عن خط أنابيب زيارات الدردشة. لا يوجد رمز Bearer محدد لكل خدمة موزع عبر كود التطبيق أو أسرار Kubernetes. لا يوجد منهي WebSocket منفصل يجب نشره جنبًا إلى جنب مع البوابة لتطبيق التحكم في الوصول على نقاط نهاية التدفق. تمر معلمات حجب PII وPCI لـ Pulse عبر البوابة دون مساس، مما يفي بفرض الخصوصية في طبقة النموذج حيث يعمل خط أنابيب الحجب لـ Smallest AI بدلاً من تجزئته عبر حاجز حماية لاحق.

المبدأ المعماري هو الفصل بين دلالات البروتوكول ودلالات الحوكمة. يحمل تدفق الصوت المجزأ لـ Lightning والنسخ التدفقي لـ Pulse مع الحجب المضمن معاني مجال الصوت التي لا تتدعم مع المزودين الآخرين. طبقة الحوكمة (المصادقة والتفويض وحقن أوراق الاعتماد والقابلية للملاحظة وتجميع التكاليف وتحديد المعدل عند حدود الفريق) هي مستقلة عن المزود وتعمل أمام أي أصل HTTP أو WebSocket دون فحص الأحمال. يحافظ التمرير المباشر الأصلي على الأول مع تطبيق الثاني. والنتيجة هي أن نطاق الميزات الكامل لـ Smallest AI (تغطية Lightning لـ 15 لغة والأصوات الهندية وحجب PCI لـ Pulse ونموذج التزامن الصريح) متاح للعملاء بينما تنطبق الضمانات التشغيلية التي توفرها بقية AI Gateway لزيارات الدردشة على زيارات الصوت على نفس قرون البوابة مع نفس مستوى التحكم ونفس الخوادم الخلفية للتتبع والتكلفة.

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

No items found.
Guide to Langgraph vs Langchain
November 16, 2026
|
5 min read

مقارنة بين LangChain وLangGraph: أيهما الأفضل لك؟

مقارنة
A detailed guide on Claude Fable 5
November 16, 2026
|
5 min read

كلود فيبل 5: واجهة برمجة التطبيقات، المعايير، التسعير وكيفية استخدامه

الهندسة والمنتج
openrouter vs litellm
November 16, 2026
|
5 min read

LiteLLM مقابل OpenRouter: أيهما الأنسب لك؟

مقارنة
November 16, 2026
|
5 min read

معمارية المحول في نماذج اللغة الكبيرة

مصطلحات LLM
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour