مدلهای تولید تصویر (T2I) روز به روز واقعیتر میشوند، اما این پیشرفت نگرانیهایی را درباره حفظ حریم خصوصی افراد ایجاد کرده است. آیا هوش مصنوعی چهره واقعی افراد را «حفظ» کرده یا آن را ساخته است؟
محققان در پژوهشی جدید با معرفی روشی به نام «NAMESAKES»، راهکاری ابداع کردهاند که بدون نیاز به عکسهای اصلی یا دسترسی به اطلاعات آموزشی مدل، به صورت «جعبهسیاه» (Black-box) تشخیص میدهد که آیا مدل هوش مصنوعی چهره یک شخص خاص را به خاطر سپرده است یا خیر. این دستاورد گامی مهم برای درک بهتر رفتار مدلهای تولید تصویر و مدیریت چالشهای حریم خصوصی در آینده است. 🔐💡
منبع: arXiv Computer Vision