یکی از دغدغههای اصلی در استفاده از مدلهای زبانی بزرگ (LLM)، مسئله «اعتماد» و «عدم قطعیت» در پاسخهای آنهاست. محققان به تازگی چارچوب نوآورانهای برای کالیبراسیون «مقادیر ویژه» (Eigenvalues) در امبدینگهای معنایی معرفی کردهاند.
نکته کلیدی اینجاست که مدلهای کنونی اغلب به شکل سیستماتیک بیشازحد به پاسخهای خود مطمئن هستند (Overconfident). این روش جدید با استفاده از «مقیاسبندی دما»، خطرات احتمالی را کاهش داده و باعث میشود هوش مصنوعی درک دقیقتری از میزان قطعیت خود داشته باشد. قدمی مهم برای استفاده قابلاطمینانتر از هوش مصنوعی در دنیای واقعی! ✨
منبع: arXiv Machine Learning
