محققان در مقاله جدید خود به سراغ بهبود روشهای «تقطیر دانش» (Distillation) رفتهاند تا مدلهای زبانی بتوانند استدلالهای دقیقتر و در عین حال کوتاهتری داشته باشند.
در این روش که به اختصار COPD نامیده میشود، مدل دانشآموز یاد میگیرد که به جای تقلید صرف از توزیع خروجی معلم، با استفاده از یک رویکرد «مقایسهای» (Contrastive)، میان مسیرهای استدلالی مختلف تمایز قائل شود.
🔹 چرا این دستاورد مهم است؟
این تکنیک باعث میشود مدلها بدون افت کیفیت، استدلالهای طولانی و پیچیده را به پاسخهای بهینهتر و کوتاهتر تبدیل کنند که نتیجه آن سرعت بالاتر و کارایی بیشتر در تسکهای چندوجهی است.
پیشرفت در این متدها یعنی مدلهای هوش مصنوعیِ آینده نه تنها باهوشتر، بلکه سریعتر و سبکتر خواهند بود. ⚡️
منبع: arXiv Computer Vision