یکی از بزرگترین مشکلات مدلهای زبانی بزرگ (LLM)، تولید پاسخهای اشتباه اما بسیار قانعکننده است. محققان به تازگی چارچوبی به نام «Heaviside Continuity of Rolling Coefficients» یا همان HCRC را معرفی کردهاند که انقلابی در دقت استدلال مدلها ایجاد میکند.
این روش چطور کار میکند؟
به جای اعتمادِ کورکورانه به خروجی مدل، HCRC مانند یک «دروازهبان» عمل میکند و با استفاده از یک معماری موازی، استدلالهای مدل را پیش از تکمیل نهایی، راستیآزمایی میکند. اگر منطق پاسخ درست باشد، اجازه عبور میدهد و در غیر این صورت، از انتشار اطلاعات نادرست جلوگیری میکند.
نتایج فوقالعاده است: نرخ خطای تکمیل (False Completion) در برخی مدلهای توانمند به صفر درصد رسیده و این تکنیک در محیطهای برنامهنویسی واقعی نیز با موفقیت استفاده شده است! 💪
منبع: arXiv AI