اگر نگران تمام شدن بودجه یا هزینههای سرسامآور استفاده از مدلهای زبانی (LLM) در پروژههای خود هستید، ابزار متنباز جدیدی به نام «LLM-budget-cap» منتشر شده است. این ابزار با استفاده از «ردیس» (Redis) به شما اجازه میدهد برای درخواستهای خود یک سقف بودجه اتمیک تعریف کنید تا به محض رسیدن به آن، دسترسی API قطع شود. یک راهکار عالی برای توسعهدهندگانی که میخواهند کنترل کاملی روی هزینههای زیرساختی خود داشته باشند. 🛠️✨
منبع: Hacker News LLM