📊 ارزیابی دقیق‌تر داده‌ها برای آموزش مدل‌های زبانی: معرفی معیارهای جدید Fidelity و Diversity

آیا داده‌های آموزشی شما واقعاً به اندازه کافی باکیفیت و متنوع هستند؟ محققان به‌تازگی راهکار جدیدی برای سنجش کیفیت داده‌ها ارائه داده‌اند. این معیارها به جای نگاه سطحی، دو ویژگی کلیدی را بررسی می‌کنند:

۱. وفاداری (Fidelity): چقدر داده‌های جدید به مرجع اصلی شباهت دارند؟
۲. تنوع (Diversity): چقدر داده‌ها تمام زوایای پنهان و الگوهای مجموعه مرجع را پوشش می‌دهند؟

این تحقیق نشان می‌دهد که بسیاری از افت کیفیت در مدل‌های هوش مصنوعی، مستقیماً به کمبود تنوع در داده‌های آموزشی (مثلاً در مسائل ریاضی) برمی‌گردد. با استفاده از این متد جدید، توسعه‌دهندگان می‌توانند قبل از آموزش مدل، شکاف‌های داده‌ای خود را شناسایی و رفع کنند. 🚀

منبع: arXiv NLP