محققان در مقالهای جدید به سراغ «فراموشی ماشین» (Machine Unlearning) رفتهاند. همه دادهها برای مدل به یک اندازه راحت فراموش نمیشوند؛ برخی بهراحتی پاک میشوند و برخی به شدت در مدل مقاومت میکنند!
این تیم یک متریک جدید به نام CUD معرفی کرده که با بررسی «مدارهای داخلی» مدل، پیشبینی میکند حذف یک داده چقدر دشوار است. نتیجه جالب این است که اطلاعات سخت برای حذف، معمولاً در لایههای عمیقتر و مسیرهای پیچیدهترِ مغزِ مدل ذخیره شدهاند.
این تحقیق گامی بزرگ برای ساخت هوش مصنوعی قابل اعتمادتر و مطابق با قوانین حریم خصوصی است. قدمی به سوی کنترل بیشتر بر آنچه مدل میداند!
منبع: arXiv Computer Vision