محققان تکنیک جدیدی به نام GA-AMLS معرفی کردهاند که به حل یکی از چالشهای بزرگ هوش مصنوعی، یعنی تخمین احتمال رخدادهای بسیار نادر و غیرمنتظره در مدلهای زبانی (مثل رفتارهای ناهنجار در شرایط خاص) کمک میکند.
تا پیش از این، تخمین احتمال وقوع اتفاقات بسیار نادر در مدلهای پیچیده با روشهای آماری قدیمی با خطاهای زیادی همراه بود، اما این متد جدید با استفاده از «گرادیان» در فضای فعالسازی (Activation Space)، دقت ارزیابی ریسک را به شدت افزایش میدهد. این گامی مهم برای افزایش ایمنی مدلهای هوش مصنوعی در کاربردهای حساس است. 🛡️
منبع: arXiv AI