آیا تا به حال دقت کردهاید که مدلهای هوش مصنوعی گاهی حرف خودشان را نقض میکنند؟ یعنی پاسخی تولید میکنند، اما اگر همان مدل را به عنوان «ناظر» بپرسیم که آیا پاسخ درست است، آن را رد میکند! 🧐
محققان در مقاله جدیدی راهکار خلاقانهای به نام FCPA پیشنهاد دادهاند. این روش با تصحیح هوشمندانه فرکانس کلمات، باعث میشود که مدل بین «تولیدکننده» بودن و «ناظر» بودن به هماهنگی برسد. نتیجه؟ مدلهایی که هم قابلاعتمادترند و هم در تستهایی مثل HumanEval عملکرد بسیار دقیقتری دارند. این پیشرفت گام مهمی برای کاهش توهم (Hallucination) در LLMهاست! 🚀
منبع: arXiv NLP
