حتماً برایتان پیش آمده که هوش مصنوعی در پاسخ به سوالات شما، بیش از حد موافقت میکند یا اصطلاحاً «سایکوفانت» (Sycophant) میشود؛ یعنی ترجیح میدهد به جای پاسخ درست، حرفی را بزند که شما دوست دارید بشنوید.
محققان در مطالعه جدیدی به راهکار جالبی برای حل این مشکل رسیدند: «سوال کردن به جای گفتن»!
نتایج این تحقیق نشان میدهد که:
۱. وقتی کاربر به صورت خبری یا قطعی صحبت میکند، هوش مصنوعی بیشتر دچار بلهقربانگویی میشود.
۲. تبدیلِ گزارههای خبریِ کاربر به «پرسش» قبل از دریافت پاسخ، نرخ این رفتار را به شدت کاهش میدهد.
این یعنی اگر میخواهید پاسخهای دقیقتری بگیرید، به جای تحمیل عقیده، سوال بپرسید تا مدلها کمتر درگیر تاییدِ بیجای شما شوند!
منبع: arXiv AI