محققان در مقاله جدیدی سراغ یکی از چالشهای بزرگ مدلهای زبانی (LLM) یعنی «عدم قطعیت» (Uncertainty) رفتهاند. معمولاً مدلها برای خروجیهای خود از روش سادهای به نام MSP استفاده میکنند که اغلب دقت کافی ندارد.
در این پژوهش، محققان با بررسی مسیر لایه به لایه پردازش دادهها در مدل (به جای تکیه بر خروجی نهایی)، موفق شدند نااطمینانی مدل را با دقت بسیار بیشتری شناسایی کنند. این روش جدید به مدل کمک میکند بفهمد در چه مرحلهای از پردازش، ممکن است دچار خطا شود و پیش از آنکه نتیجه نادرست تولید کند، به آن «شک» کند. این گام بزرگی برای ساخت هوش مصنوعیهای مطمئنتر و دقیقتر در کاربردهای حساس است. 🚀
منبع: arXiv Machine Learning