تا به حال شده مدلهای هوش مصنوعی با اطمینان کاذب، اطلاعات غلط تحویلتان بدهند؟ یک پژوهش جدید با معرفی الگوریتم C3RL به دنبال حل همین مشکل است!
این روش جدید، علاوه بر تمرکز روی درستی پاسخها، به مدل یاد میدهد که چقدر «مطمئن» است. نتیجه؟ کاهش چشمگیر توهمات (Hallucinations) مدل و افزایش دقت در استدلالهای پیچیده.
همچنین با معرفی استراتژی CAS، هوش مصنوعی یاد میگیرد که منابع محاسباتی را هوشمندانه مصرف کند؛ یعنی برای سوالات ساده کمتر وقت بگذارد و برای مسائل پیچیده دقت و منابع بیشتری اختصاص دهد. این یعنی تعادل عالی بین سرعت و کیفیت!
🔹 شما فکر میکنید اعتمادبهنفس بیش از حد مدلها بزرگترین مشکل فعلی آنهاست؟
منبع: arXiv AI
