آیا تا به حال به این فکر کردهاید که چطور میتوان حجم توکنهای مدلهای زبانی را در پروژههای کدنویسی کاهش داد بدون اینکه کیفیت کار افت کند؟ محققان در مقاله جدیدی از ابزار «SWE-Pruner Pro» رونمایی کردهاند که تحولی در مدیریت حافظه مدلها ایجاد میکند.
این ابزار به جای استفاده از طبقهبندیکنندههای جانبی، مستقیماً از خودِ ایجنت استفاده میکند تا تشخیص دهد کدام بخش از کدها برای حل مسئله مهم هستند و کدامها اضافیاند. نتیجه؟ صرفهجویی ۳۹ درصدی در مصرف توکنها و افزایش دقت مدل در بنچمارکهای پیچیده کدنویسی! 💻✨
این یعنی ایجنتهای برنامهنویس نه تنها سریعتر و ارزانتر عمل میکنند، بلکه در حل مسائل نیز دقیقتر ظاهر میشوند.
منبع: arXiv NLP