محققان در مقاله جدیدی به سراغ یکی از چالشهای مهم در مدلهای بینایی ماشین رفتهاند: «کالیبراسیون پسرویدادی» (Post-hoc Calibration).
مدلهای فعلی در تشخیص دقیق و قابلاعتماد اشیاء گاهی دچار بیشاعتمادی (Overconfidence) میشوند که میتواند در سیستمهای حساس مثل خودروهای خودران خطرناک باشد. این پژوهش دو مشکل کلیدی را بررسی میکند:
۱. استقلال از تغییرات مقداری (Logit shifts): محققان روشهایی طراحی کردهاند که کالیبراسیون مدل با تغییرات جزئی در ورودیهای عددی دچار نوسان نشود.
۲. حفظ دقت در تصمیمگیری: بسیاری از روشهای کالیبراسیون باعث میشوند مدل در نهایت خروجیهای غیردقیق تولید کند؛ این مطالعه راهکارهایی ارائه میدهد تا بدون تغییر در تصمیم نهایی مدل (Argmax)، میزان اطمینان آن بهبود یابد.
این تحقیق گامی مهم برای افزایش ایمنی و قابلیت اطمینان هوش مصنوعی در کاربردهای دنیای واقعی است. 🚀
منبع: arXiv Machine Learning
