محققان در مطالعهای جدید، روش نوآورانهای به نام AHR (Attention Head Reweighting) را معرفی کردهاند که میتواند انقلابی در نحوه یادگیری مدلهای زبانی بزرگ (LLM) ایجاد کند.
💡 چرا این خبر مهم است؟
بسیاری از مدلهای هوش مصنوعی برای یادگیری وظایف جدید، به حجم عظیمی از داده نیاز دارند که همیشه در دسترس نیست. روش AHR با تمرکز بر وزندهی به «سرهای توجه» (Attention Heads)، تنها با تغییر ۰.۰۰۰۱٪ از پارامترهای مدل، عملکردی خیرهکننده در یادگیری با دادههای محدود ارائه میدهد. این یعنی:
✅ کاهش چشمگیر هزینههای محاسباتی (۲۰۰ تا ۱۰۰۰ برابر کمتر از متدهای رایج مثل LoRA).
✅ حفظ دقت بالا در دستهبندی متن.
✅ افزایش شفافیت مدل؛ حالا محققان میتوانند بهتر درک کنند که هر بخش از هوش مصنوعی دقیقاً چگونه یاد میگیرد!
این دستاورد مسیر را برای شخصیسازی مدلهای قدرتمند در حوزههای تخصصی و امنیتی هموارتر میکند. 🧠✨
منبع: arXiv AI