یکی از چالشهای بزرگ هوش مصنوعی، یادگیری ناخواسته از دادههای نامناسب است. تا امروز، روشهای «فراموشی» (Unlearning) اغلب باعث کاهش دقت مدل یا فراموشی بیش از حد میشدند.
محققان در مقاله جدیدی، رویکرد متفاوتی را با نام DareU معرفی کردهاند. این روش به جای تغییر ساده وزنها، بر مفهوم «حذف انتساب» (De-attribution) تمرکز دارد. در واقع، این فریمورک با استفاده از یادگیری تقویتشده، اثرِ دادههای فراموششدنی را در پاسخهای مدل کاهش میدهد تا ضمن حفظ کیفیت مدل، مسائل اخلاقی و حریم خصوصی بهخوبی مدیریت شود.
پیشرفت بزرگی برای مدلهای ایمنتر و دقیقتر! 🚀
منبع: arXiv AI