محققان در یک مقاله جدید، راهکار نوآورانهای به نام CostAda معرفی کردهاند که تحولی در مدیریت هزینههای پردازشی مدلهای زبانی بزرگ (LLM) ایجاد میکند.
در دنیای پرهزینه هوش مصنوعی، مدلها اغلب بدون توجه به میزان توکنهای مصرفی و بودجه باقیمانده، فرآیند جستجو را انجام میدهند. CostAda با بهرهگیری از یک الگوریتم «مبتنی بر هزینه»، یاد گرفته است که چطور پیشرفت مدل را نسبت به هزینه واقعی بسنجد و تصمیم بگیرد که آیا جستجوی بیشتر در یک مسیر خاص منطقی است یا خیر.
نتایج فوقالعاده است: این سیستم توانسته با تنها نصف بودجه توکن، به کیفیتی مشابه بهترین مدلهای فعلی برسد. این یعنی گامی بلند به سوی هوش مصنوعیِ بهینهتر و اقتصادیتر!
منبع: arXiv AI