🚀 تهدید جدید امنیتی برای مدل‌های هوش مصنوعی: حملات استنتاج ویژگی از طریق مسموم‌سازی کد! 🛡️

آیا می‌دانستید کدهایی که از منابعی مثل GitHub دانلود می‌کنیم، می‌توانند امنیت مدل‌های آموزش‌دیده ما را به خطر بیندازند؟ محققان به‌تازگی حمله‌ای جدید به نام CPPIA معرفی کرده‌اند که می‌تواند ویژگی‌های حساس داده‌های آموزشی شما را از طریق «مسموم‌سازی کد» لو بدهد.

نکات کلیدی این تحقیق:
✅ این اولین روش حمله‌ در سطح کد است که بدون کاهش دقت مدل، داده‌های خصوصی را هدف می‌گیرد.
✅ برخلاف روش‌های قبلی، این حمله بسیار سبک بوده و به مدل‌های سایه (Shadow Models) نیاز ندارد.
✅ نرخ موفقیت این حمله در آزمایش‌های انجام شده ۱۰۰٪ گزارش شده است!

این تحقیق هشداری جدی برای توسعه‌دهندگانی است که از کدهای عمومی برای آموزش مدل‌های خود با داده‌های حساس استفاده می‌کنند. همیشه پیش از استفاده از کدهای منبع‌باز، نسبت به منبع و امنیت آن‌ها حساس باشید.

منبع: arXiv Machine Learning