🔍 چطور بفهمیم هوش مصنوعی واقعاً «یادگیری‌های غلط» را فراموش کرده؟

محققان روش جدیدی به نام «ART» (مخفف Association Restoration Test) معرفی کرده‌اند که به بررسی عمیق حذف اطلاعات (Unlearning) در مدل‌های هوش مصنوعی می‌پردازد.

مشکل اینجاست که در روش‌های فعلی، مدل ممکن است ظاهرِ فراموشی بگیرد، اما همچنان میان‌برهای اشتباهی را در لایه‌های پنهان خود حفظ کرده باشد. تست ART با تحلیل دقیق این پیوندها، به ما نشان می‌دهد که آیا مدل واقعاً یادگیری‌های غیرضروری را کنار گذاشته یا فقط آن‌ها را پنهان کرده است. این گام بزرگی برای ساخت مدل‌های ایمن‌تر و قابل‌اعتمادتر است! 🧠✨

منبع: arXiv Computer Vision