🛡️ حفره امنیتی جدید در مدل‌های هوش مصنوعی: وقتی هوش مصنوعی «فراموشی» را فراموش می‌کند!

محققان متد جدیدی به نام POPS را معرفی کرده‌اند که می‌تواند اطلاعاتی که مدل‌های چندوجهی (MLLMs) قرار بوده «فراموش» کنند (Machine Unlearning) را دوباره بازیابی کند! 🧠🔍

این یعنی مدل‌هایی که برای حفظ حریم خصوصی یا کپی‌رایت، داده‌های حساس را حذف کرده‌اند، همچنان ممکن است در برابر حملات هوشمندانه آسیب‌پذیر باشند. محققان با استفاده از روشی به نام «تکان دادن پارامترها»، مدل را وادار می‌کنند تا اطلاعاتِ якобы پاک‌شده را دوباره لو بدهد. این یک زنگ خطر جدی برای امنیتِ مدل‌های زبانی چندوجهی است که نشان می‌دهد روش‌های فعلیِ «حذف داده» نیاز به بازنگری اساسی دارند. 🔒⚠️

منبع: arXiv Machine Learning