محققان در پژوهشی جدید، چالش همیشگی انتخاب بهترین مدل زبانی با در نظر گرفتن محدودیت بودجه و هزینه پردازش را هدف قرار دادهاند. این متد جدید که با نام RoR (Resample-or-Reroute) معرفی شده، به سیستم اجازه میدهد تا به صورت هوشمند تصمیم بگیرد که آیا پاسخ فعلی را دوباره بررسی (Resample) کند یا آن را به مدل دیگری ارجاع (Reroute) دهد.
این رویکرد نوآورانه با تخصیص بهینه بودجه برای هر درخواست، باعث افزایش دقت در پاسخدهی بدون تحمیل هزینههای اضافه میشود. روشی کاربردی برای توسعهدهندگانی که به دنبال تعادل بین کیفیت و هزینه در سیستمهای مبتنی بر LLM هستند. 🚀
منبع: arXiv Machine Learning
