محققان در مقاله جدید خود به سراغ چالش مهم «بهینهسازی مدلهای زبانی کوچک» (Lightweight LLMs) رفتهاند. تا امروز، ما برای سنجش کارایی مدلها بیشتر به تعداد پارامترها یا محاسبات (FLOPs) تکیه میکردیم، اما این مقاله با معرفی چارچوب «PTME»، روشی جامع برای اندازهگیری همزمان دقت، زمان اجرا، حافظه و مصرف انرژی روی سختافزار ارائه داده است. 🧠💻
نتایج این تحقیق نشان میدهد که معیارهای قدیمی برای پیشبینی دقت مدل کافی نیستند و مدیریت منابع روی سیستمهای کوچک، تاثیری متفاوت روی مدلهای مختلف دارد. این یعنی راهکاری عملیتر برای توسعهدهندگانی که میخواهند هوش مصنوعی را بدون داغ کردن گوشی یا خالی شدن سریع باتری به صورت محلی اجرا کنند! 🔋✨
سازی
منبع: arXiv AI