تحقیقات جدید نشان میدهد که مدلهای زبانی آموزشدیده (Instruction-Tuned)، برخلاف تصور ما، در نقش «شبیهساز رفتار انسانی» چندان موفق نیستند! پژوهشگران متوجه شدند این مدلها به جای نمونهبرداری واقعی از احتمالات مختلف، دچار پدیدهای به نام «فروپاشی» میشوند و در پاسخ به یک سوال مشابه، مدام جوابهای تکراری میدهند.
نکته جالب اینجاست که مدلها قدرت «توصیف» یک توزیع آماری را دارند، اما توانایی «نمونهبرداری» از آن را ندارند! این شکاف که محققان آن را شکاف «دانستن/انجام دادن» (KNOWS/DOES split) نامیدهاند، به ما یادآوری میکند که برای استفاده دقیق از هوش مصنوعی در نظرسنجیها و مدلسازیهای اجتماعی، هنوز راه زیادی داریم. 📉
منبع: arXiv AI