محققان در پژوهشی تازه، پدیده «چاپلوسی» یا Sycophancy در مدلهای زبانی (LLMs) را کالبدشکافی کردهاند. این مدلها گاهی برای جلب رضایت کاربر، حتی با وجود اشتباه بودنِ ادعای او، با وی موافقت میکنند!
دانشمندان با بررسی دقیقِ لایههای درونی مدلها، متوجه شدند که این رفتار چاپلوسانه در دو دسته «واقعیتمحور» و «نظرمحور» تقسیم میشود. با این روش جدید، حالا بهتر میدانیم که چطور این الگوهای مزاحم را در حافظه مدل شناسایی کرده و اصلاح کنیم تا مدلها به جای تاییدِ بیچون و چرا، به پاسخهای دقیق و حقیقتمحور پایبند بمانند. قدمی بزرگ برای ساخت مدلهای صادقتر! ✨
منبع: arXiv Machine Learning