الميزانيات والحصص (Quotas) على AI Gateway: التحكم في إنفاق الذكاء الاصطناعي حسب الفريق
.png)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
لماذا الميزانيات بالدولار، وليس فقط حدود المعدل (Rate Limits)؟
تفرض نقاط النهاية لنواة المعالجة الرسومية (GPU) أو حسابات المزودين الرسوم سواء كان هناك من يراقب أم لا. تحدد حدود المعدل (Rate Limits) معدل الإنتاجية، لكنها لا تمنع أي فريق من إنفاق عشرة آلاف دولار بهدوء على التوكنز (Tokens) في شهر واحد. تحدد الميزانيات السقف المالي بالدولار، وهو ما تهتم به الإدارة المالية بالفعل.
على AI Gateway، يساعدك تحديد الميزانية على التحكم في الإنفاق على أعباء عمل LLM من خلال وضع حدود للتكلفة لكل مستأجر (Tenant) أو لكل فريق، مع ميزات التنبيه والتطبيق المدمجة.
ميزانيات المستأجر مقابل ميزانيات الفريق
تصف وثائق تحديد الميزانية نطاقين، والتمييز بينهما يحدد من يملك الحد الأقصى.
- ميزانية المستأجر (Tenant budget): يديرها مسؤول الميزانية (Tenant admin) فقط، وتطبق على جميع الطلبات عبر المستأجر التي تطابق عوامل تصفية القواعد. تُستخدم للحدود الأقصى على مستوى المؤسسة ككل، مثل حد الإنفاق الشهري على نموذج معين.
- ميزانية الفريق (Team budget): يديرها مسؤول الميزانية ومدراء الفرق، وتطبق فقط على الطلبات المقدمة من أعضاء فريق واحد. تُستخدم عندما يتعين على قائد الفريق إدارة إنفاق فريقه الخاص دون الحاجة إلى صلاحيات مسؤول الميزانية.

إنشاء قاعدة ميزانية، خطوة بخطوة
- افتح محرر القواعد: انتقل إلى AI Gateway، ثم Policies، ثم Budget Limiting، وانقر على Add Rule.
- حدد النطاق: إما Tenant Budget أو Team Budget.
- أضف عوامل تصفية النطاق (Scope filters) على الموضوعات، أو النماذج، أو حسابات المزودين، أو البيانات الوصفية (Metadata). إذا تركت جميع الفلاتر فارغة، فستطابق القاعدة كل طلب ضمن نطاقها.
- حدد حدود الميزانية بفترة واحدة أو أكثر: يومية، أو أسبوعية، أو شهرية، أو ربع سنوية، أو مدى الحياة (Lifetime). يمكن لقاعدة واحدة تطبيق فترات متعددة في وقت واحد، ويتم حظر الطلب إذا تم تجاوُز أي فترة.
- اختر كيفية تطبيق الحد: سواء كان إجمالياً (Aggregate)، أو لكل مستخدم (Per user)، أو لكل نموذج (Per model)، أو لكل حساب افتراضي (Per virtual account)، أو لكل بيانات وصفية (Per metadata). لا يمكن تغيير هذا الخيار بعد إنشاء القاعدة.
- اختر وضع التطبيق (Enforcement mode): وضع التطبيق (Enforce) للحظر عند التجاوز، أو التدقيق (Audit) للتحذير فقط، أو التطبيق المرن (Soft enforce) للحظر فقط في حالة عدم وجود ميزانية مطابقة أخرى تسمح بالطلب.

تفصيلة واحدة مهمة من الوثائق: عند إنشاء قاعدة ميزانية، يبدأ عداد الاستخدام من الصفر من تلك اللحظة، بغض النظر عما تم إنفاقه سابقاً في الفترة. لا يتم احتساب الإنفاق السابق بأثر رجعي.
تنبيهات قبل الوصول للحد الأقصى
تكون الميزانيات أكثر فائدة قبل اختراقها. عند إنشاء قاعدة، يمكنك تشغيل تنبيهات المراحل الرئيسية للميزانية وتحديد العتبات عند 75، أو 90، أو 95، أو 100 بالمائة، ثم اختيار وجهة الإشعار مثل البريد الإلكتروني، أو Slack، أو PagerDuty، أو Microsoft Teams. يمنح هذا المالكين وقتاً للتصرف بدلاً من اكتشاف الوصول للحد الأقصى فقط عندما تبدأ الطلبات في الفشل.
عرض الميزانيات في التحليلات
تعرض لوحة تحليلات البيانات نتائج الميزانية تحت مقاييس التوجيه (Routing metrics). تظهر العدادات على المستوى الأعلى مكالمات النماذج المحظورة بواسطة حد المعدل (Rate limit) ومكالمات النماذج المحظورة بواسطة حد الميزانية (Budget limit)، وتظهر مخططات الميزانية معدل الفحوصات، ومعدل التجاوز، وتوزيع الطلبات المسموح بها مقابل المحظورة لكل قاعدة ميزانية.
يمكنك عرض هذه البيانات حسب التكوينات (Configs)، أو المستخدمين، أو الحسابات الافتراضية، أو الفرق. إن عرض الفرق هو ما يدعم استرداد التكاليف (Chargebacks) ويسمح لكل فريق بإدارة ميزانيته الخاصة.

نتائج الميزانية وحدود المعدل في عرض مقاييس التوجيه (Routing metrics).
الميزانيات مقابل تحديد المعدل (Rate Limiting)
| | الميزانيات | تحديد المعدل |
| --- | --- | --- |
| الحدود | التكلفة بالدولار | الإنتاجية (الطلبات، التوكنز، استدعاءات الأدوات) |
| النطاقات | المستأجر والفريق | المستأجر فقط |
| تنبيهات العتبة | نعم (75، 90، 95، 100%) | لا |
| الفترات | من يومية إلى مدى الحياة | لكل دقيقة، ساعة، يوم |
الخياران يكملان بعضهما البعض. استخدم تحديد المعدل لماية السعة والميزانيات لحماية المحفظة المالية. كلاهما يُرجع كود HTTP 429 عند التجاوز، و
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.


Recent Blogs
Frequently asked questions
What is the difference between a budget and a rate limit?
A budget caps spend in dollars, while a rate limit caps throughput such as requests or tokens. Budgets support tenant and team scopes and send threshold alerts, whereas rate limits are tenant scoped and do not send threshold alerts.
Can a team manage its own budget?
Yes. A team budget can be managed by a team manager as well as tenant admins, and it applies only to that team members requests. This lets a team lead control their own spend without tenant admin access.
Does a new budget count spend from earlier in the month?
No. The usage counter starts at zero from the moment you create the rule. Prior spending in the current day, week, month, or quarter is not retroactively counted.
What happens when a budget is exceeded?
In enforce mode the request is blocked with an HTTP 429 and a budget limit error. In audit mode it is tracked and alerted without blocking, and in soft enforce mode it is blocked only when no other matching budget can allow the request.










.webp)
.webp)
.webp)
.webp)




.webp)
.webp)
.png)

.png)
.png)
.png)






