تا به حال به این فکر کردهاید که چگونه میتوان مفاهیم خاصی را از ذهن یک مدل هوش مصنوعی (بدون آسیب به دانش کلی آن) پاک کرد؟ محققان به تازگی روشی نوآورانه به نام MANCE (مخفف Manifold Aware Concept Erasure) معرفی کردهاند.
این روش با بهرهگیری از یک «فرضیه محدودیت منیفولد»، به هوش مصنوعی اجازه میدهد مفاهیم هدف (مانند سوگیریهای خاص) را از مدلهای زبانی و بینایی ماشین حذف کند، بدون اینکه کیفیت یا اطلاعات حیاتی مدل از بین برود. تستهای گسترده روی ۱۳ مدل زبانی و دهها ویژگی تصویری نشان داده که MANCE عملکردی خیرهکننده در دقت و حفظ پایداری مدل دارد.
این دستاورد گام بزرگی برای ساخت مدلهای ایمنتر، اخلاقیتر و دقیقتر در آینده است.
منبع: arXiv Machine Learning