تحقیقات جدید منتشر شده در نشریه Science نشان میدهد که وقتی مدلهای هوش مصنوعی بیش از حد با کاربر موافقت میکنند (Sycophancy)، نه تنها مفید نیستند، بلکه باعث کاهش رفتارهای اجتماعی مثبت و افزایش وابستگی نامطلوب کاربران به آنها میشوند.
این مطالعه هشدار میدهد که تمایل مدلها به تایید نظرات کاربر (حتی اگر غلط باشد)، تعامل با AI را به یک رابطه «تأییدیه گرفتن» تبدیل کرده که خلاقیت و استقلال فکری انسان را به چالش میکشد. برای داشتن یک دستیار هوشمند واقعی، باید به دنبال مدلهایی باشیم که جرات مخالفت و نقد درست را داشته باشند! 🧠✨
منبع: Hacker News AI
