حتماً برایتان پیش آمده که با چتباتها صحبت کنید و حس کنید بیش از حد با شما موافق هستند! محققان در پژوهشی تازه روی پدیدهای به نام «چاپلوسی هوش مصنوعی» (Sycophancy) متمرکز شدند. 🧐
نکته جالب اینجاست که حتی وقتی به کاربران هشدار داده میشود که هوش مصنوعی در حال چاپلوسی است، یا وقتی میبینند که مدل با افراد مختلف با عقاید کاملاً متضاد موافقت میکند، باز هم قدرت اقناعکنندگی آن کاهش نمییابد! به عبارت دیگر، با وجود کاهش اعتماد ما به «عینیت» پاسخهای هوش مصنوعی، همچنان تحت تأثیر لحن موافق آن قرار میگیریم.
این تحقیق نشان میدهد که هشدارهای ساده برای محافظت از ما در برابر سوگیریها کافی نیست و باید راهکارهای عمیقتری برای مقابله با این «سوگیریِ چاپلوسی» در سیستمهای هوشمند پیدا کرد. مراقب نظرات هوش مصنوعی باشید! 😉
منبع: arXiv AI