حتماً میدانید که «مقادیر شپلی» (Shapley Values) ابزاری استاندارد برای تعیین میزان اثرگذاری هر داده روی عملکرد مدلهای هوش مصنوعی هستند. اما یک تحقیق جدید در آرکایو، حفرهای عجیب را در این روش برملا کرده است! 🧐
محققان متوجه شدند که حتی با ایجاد تغییرات بسیار کوچک یا نویز در «مجموعه اعتبارسنجی» (Validation Set)، ارزشگذاریهای شپلی به شدت تغییر میکنند. این یعنی مدلهای ما در تشخیص اینکه کدام داده «واقعاً ارزشمند» است، در برابر تغییرات محیطی شکننده هستند.
این یافتهها نه تنها زنگ خطری برای دقت مدلهاست، بلکه راهکارهایی برای مقاومسازی این روشهای valuation پیشنهاد میدهد که میتواند تحولی در بازار داده و آموزش مدلهای هوشمند ایجاد کند. 📊✨
منبع: arXiv Machine Learning