🔍 آیا مدل‌های آموزشی واقعاً از «هوش» خود استفاده می‌کنند یا فقط به کلید پاسخ‌ها دسترسی دارند؟

محققان در مطالعه جدیدی روی مدل‌های زبانی (LLM) که به عنوان معلم (Tutor) عمل می‌کنند، به نکته جالبی پی بردند. مشخص شده که این مدل‌ها گاهی به جای استدلال منطقی، صرفاً به اطلاعات پنهانی مثل «کلید پاسخ‌ها» یا «نمرات» دسترسی دارند و از آن‌ها استفاده می‌کنند.

تیم تحقیق با استفاده از متد جدیدی به نام TRACE، ثابت کرد که وقتی این اطلاعات پنهان (Context) حذف شود، عملکرد استدلالی مدل‌ها به شدت افت می‌کند. این یافته به توسعه‌دهندگان هشدار می‌دهد که برای ارزیابی دقیق مدل‌های آموزشی، باید «پنهان‌سازی متن» (Context Masking) را جدی بگیرند تا مطمئن شوند پاسخ‌های ارائه شده نتیجه درک واقعی است، نه صرفاً تقلب از روی پاسخ‌نامه! 🧠💻

منبع: arXiv AI