محققان در مقاله جدیدی به بررسی روش «تقطیر پیشبینیمحور» (Prediction-Only Distillation) پرداختهاند. در بسیاری از سناریوهای واقعی، ما به دادههای آموزشی اصلی دسترسی نداریم؛ این مطالعه نشان میدهد که چگونه میتوان با استفاده از دادههای جدیدِ بدون برچسب و مدلهای «معلم»، دانش مدل را به «دانشآموز» منتقل کرد تا به عملکردی حتی بهتر از مدل اولیه دست یافت. این دستاورد به ویژه در رگرسیونهای Ridge و Logistic کاربرد گستردهای برای بهبود کارایی و دقت مدلها خواهد داشت. 📈🧠
منبع: arXiv Machine Learning
