محققان روشی نوآورانه به نام «Domain-Conditional Position Offsets» معرفی کردهاند که عملکرد مدلهای زبانی (LLM) را در ابتدای جملات بهطور چشمگیری بهبود میبخشد.
مدلهای هوش مصنوعی معمولاً در شروع متون به دلیل کمبود زمینه (Context)، دچار خطا میشوند. این روش جدید با اضافه کردن یک بردار یادگیریشده به جایگاههای اولیه، بدون نیاز به آموزش مجدد کل مدل یا افزایش تاخیر، دقت مدلها را تا ۲۷٪ افزایش میدهد! این یعنی مدلها در دامنههای تخصصی، هوشمندتر و دقیقتر عمل خواهند کرد.
این پیشرفت نه تنها باعث بهبود دقت میشود، بلکه در مقایسه با روشهایی مثل LoRA، منابع بسیار کمتری مصرف میکند. یک گام بزرگ دیگر برای بهینهسازی قدرت مدلهای زبانی! 🧠✨
منبع: arXiv Machine Learning