📊 غلبه بر چالش داده‌های نامتوازن در NLP با «Dice Loss»

یکی از بزرگترین مشکلات در آموزش مدل‌های زبانی (NLP)، نابرابری در توزیع داده‌هاست؛ جایی که مثال‌های منفی، آموزش مدل را تحت‌الشعاع قرار می‌دهند.

محققان در این پژوهش پیشنهاد می‌دهند که به جای استفاده از تابع کلاسیک Cross-Entropy، از روش «Dice Loss» استفاده کنیم. این تکنیک با وزن‌دهی پویا به داده‌ها و تمرکز بر معیارهای مشابه F1، باعث بهبود چشمگیر عملکرد مدل‌ها در تسک‌هایی مثل برچسب‌گذاری (Tagging) و درک متون شده است. این رویکرد گامی مهم برای رسیدن به دقت بالاتر در مدل‌های هوش مصنوعی است. 🧠✨

منبع: arXiv NLP