استفاده از مدلهای بزرگ (LLM) و مدلهای چندوجهی در سازمانهای بزرگ مثل مراکز مدیریت حملونقل (TMC) هزینههای سنگینی دارد. محققان در پژوهش جدیدی، راهکاری برای حل «مسئله پورتفوی استقرار مدل» (FMDP) ارائه دادهاند.
این متد با هدف قرار دادن تعادل بین دقت، تأخیر و بودجه سختافزاری، به سازمانها کمک میکند تا انتخاب کنند کدام وظیفه را به کدام مدل بسپارند. نکته جالب اینجاست که این مدل میتواند با ترکیب هوشمندانه APIهای متنباز و مدلهای اختصاصی، هزینهها را تا ۹۷ درصد نسبت به حالتهای سنتی کاهش دهد! 🚀
این تحقیق نشان میدهد که گاهی ترکیب مدلهای مختلف بسیار مقرونبهصرفهتر از استفاده از یک مدل واحد برای همه کارهاست.
سازی
منبع: arXiv AI