یکی از چالشهای بزرگ مدلهای چندوجهی (MLLM)، حفظ حریم خصوصی است. وقتی مدلها آموزش میبینند، گاهی ناخواسته اطلاعات شخصی افراد را در حافظه خود ذخیره میکنند. روشهای فعلی «فراموشی ماشینی» (Machine Unlearning) هم معمولاً یا دقت پایینی دارند و یا با پاک کردن دادههای خصوصی، اطلاعات عمومی و مفید تصویر را هم تخریب میکنند.
پژوهشگران با معرفی بنچمارک جدید PPE-Bench، به سراغ حل این معضل رفتهاند. این ابزار به مدلها کمک میکند تا بدون آسیب زدن به محتوای عمومی تصویر (مثل اماکن یا چهرههای عمومی)، اطلاعات خصوصی و حساس را با دقت بالا فراموش کنند. گامی مهم برای ایمنتر کردن هوش مصنوعی در دنیای واقعی! 🚀
منبع: arXiv AI