یکی از چالشهای بزرگ در سیستمهای هوش مصنوعی حساس (مثل خودروهای خودران یا تشخیص پزشکی)، ایجاد تعادل بین «دقت بالا» و «قابلیت اطمینان در شرایط ناپایدار» است. در روشهای رایج، افزایش قدرت دفاعی مدل در برابر حملات خصمانه (Adversarial Attacks) معمولاً باعث افت کیفیت در تشخیص میزان عدمقطعیت میشود.
محققان در مقاله جدیدی، رویکرد «Evidential Adversarial Training» یا همان EV-AT را معرفی کردهاند. این روش با استفاده از توزیع «دیریکله» (Dirichlet)، نهتنها دقت مدل را در برابر حملات حفظ میکند، بلکه باعث میشود هوش مصنوعی در زمان مواجهه با دادههای مبهم یا مخرب، بهتر متوجهِ «ندانستن خود» شود.
این یعنی مدلهای آینده نه فقط باهوشتر، بلکه قابلاعتمادتر خواهند بود و کمتر در مواجهه با خطاهای پیشبینیشده دچار اشتباه میشوند. 🤖✨
منبع: arXiv Computer Vision