محققان در پژوهش جدیدی متوجه شدند که مدلهای تولید تصویر (مثل Stable Diffusion) در برابر «حملات استنتاج عضویت» (MIA) آسیبپذیرتر از آن چیزی هستند که فکر میکردیم.
مشکل اصلی اینجاست که این مدلها در پردازش اطلاعات «فرکانس بالا» در تصاویر ضعیف عمل میکنند و همین ضعف باعث میشود دادههای آموزشی مدل به راحتی شناسایی و افشا شوند.
خبر خوب اینکه محققان یک فیلتر جدید طراحی کردند که مثل یک وصله امنیتی (Plug-and-Play) به مدلهای موجود اضافه میشود و بدون هزینه پردازشی اضافه، این حفره امنیتی را میپوشاند. گامی مهم برای افزایش حریم خصوصی در دنیای هوش مصنوعی مولد! 🧠✨
منبع: arXiv Machine Learning