یکی از چالشهای اصلی مدلهای زبانی بزرگ (LLM)، ضعف در زبانهایی است که دادههای آموزشی کمی دارند. محققان به تازگی یک فریمورک «یادگیری متا» (Meta-Learning) معرفی کردهاند که به مدلها اجازه میدهد با استفاده از دانش زبانهای دیگر، خود را برای زبانهای کممنابع بهطور موثری تطبیق دهند.
این روش که در حوزههای RLHF و DPO به کار گرفته شده، تنها با داشتن ۱۰۰ نمونه داده از زبان مقصد، تا ۲۸ درصد بهبود در عملکرد مدل ایجاد میکند! این دستاورد گامی مهم برای دموکراتیزه کردن هوش مصنوعی و حمایت از زبانهای مختلف در دنیای مدلهای زبانی است. 🌍✨
منبع: arXiv NLP
