محققان در پژوهشی جدید، خانواده جدیدی از آداپتورها را معرفی کردهاند که میتواند مدلهای زبانی بزرگ را در کارهای استدلالی بسیار دقیقتر کند. این دستاورد جدید شامل دو بخش کلیدی است:
✅ مدل MaLoRA: یک آداپتور پویا که برخلاف مدلهای قبلی، وضعیت مدل را در سطح هر توکن با دقت بالا تنظیم میکند.
✅ مدل MaRA: یک ابزار بازیابی (Retrieval) پیشرفته که قطعات مرتبط متن را برای پاسخدهی بهتر انتخاب میکند.
نتایج آزمایشها روی مدلهای قدرتمندی مثل Llama-3.1 و Qwen-2.5 نشان میدهد که این روش جدید توانسته دقت استدلال مدلها را تا ۱۸ درصد نسبت به تکنیک استاندارد LoRA افزایش دهد! این یعنی مدلهای زبانی در آینده بسیار هوشمندتر و منطقیتر عمل خواهند کرد. 🤖📈
منبع: arXiv NLP