آیا میدانستید سیستمهای RAG و ابزارهای بیومتریک که از شباهتهای کسینوسی برای بازیابی داده استفاده میکنند، ممکن است ناخواسته اطلاعات حساسی از کاربران را فاش کنند؟
محققان به تازگی مکانیسم جدیدی به نام «ScoreShield» را معرفی کردهاند که با استفاده از تکنیک «تکانهدهی و تصویرسازی» (Perturb-then-Project)، امکان اشتراکگذاری ایمن امتیازات شباهت را بدون به خطر انداختن حریم خصوصی (Differential Privacy) فراهم میکند.
این روش نه تنها دقت و کارایی مدلها را حفظ میکند، بلکه راهکار بسیار مطمئنتری برای جلوگیری از حملات استنتاج عضویت (Membership Inference Attacks) ارائه میدهد. خبر خوبی برای توسعهدهندگانی که با دادههای حساس و بردارها سر و کار دارند! 🚀
منبع: arXiv Computer Vision