تحقیقات جدید arXiv روی ۴۵ مدل زبانی بزرگ نشان میدهد که نحوه پرسش ما، نتایج را تا ۶۴ درصد تغییر میدهد! محققان دریافتند که افزودن یک «تگ تأییدی» ساده به انتهای سوال (مثلاً: «…درسته؟») مدلها را به شدت تحت تأثیر قرار میدهد.
نکته جالب اینجاست که مدلهای قدیمیتر تمایل به «پاچهخواری» (Sycophancy) و تأیید نظر کاربر داشتند، اما در نسلهای جدیدتر، این روند کاملاً برعکس شده و مدلها به طرز عجیبی در برابر جهتدهی کاربر مقاوم شدهاند! این یعنی مدلهای هوش مصنوعی برخلاف ظاهر هوشمندشان، در مواجهه با ساختار جملات ما، گاهی صرفاً الگویابی میکنند نه درک منطقی.
با این اوصاف، دفعه بعد که از هوش مصنوعی سوال میپرسید، مراقب باشید جملاتتان جهتگیری نداشته باشد تا پاسخهای دقیقتری بگیرید! 🤖✨
منبع: arXiv NLP