یکی از چالشهای بزرگ در استفاده از هوش مصنوعی در محیطهای حساس، تشخیص دادههایی است که با دادههای آموزشی مدل تفاوت دارند (OOD). اگر مدل در برابر این دادهها بیش از حد مطمئن باشد، میتواند تصمیمات خطرناکی بگیرد.
محققان در مقاله جدیدی، متد AOE (Adaptive Confidence OE) را معرفی کردهاند که با استفاده از «مقیاسبندی دما» (Temperature Scaling)، برچسبهای دادههای پرت را بازسازی میکند. این روش برخلاف مدلهای قدیمی که با برچسبهای یکنواخت دقت را پایین میآوردند، با حفظ روابط بین کلاسها، مرز تشخیص دادههای استاندارد از غیراستاندارد را به طرز چشمگیری دقیقتر میکند. این یعنی ایمنی بیشتر در کاربردهای واقعی دنیای هوش مصنوعی! 🧠💡
منبع: arXiv Machine Learning