محققان در یک مطالعه جدید، نحوه «توجه» (Attention) مدلهای زبانی بزرگ (LLM) را هنگام بررسی گزارشهای باگ تحلیل کردهاند. نتایج این پژوهش نشان میدهد که چرا مدلها گاهی در رفع یک باگ موفق و در باگ مشابه دیگر شکست میخورند!
نکات کلیدی این تحقیق:
✅ مدلهای موفق، توجه خود را به صورت پخششده روی بخشهای مختلف گزارش (مانند توضیحات باگ، استکتریس و تستکیسها) متمرکز میکنند.
❌ مدلهای ناموفق معمولاً دچار «بیشتمرکزی» روی متادیتاها و اطلاعات جانبی (مثل اطلاعات نسخه) میشوند.
این تحقیق گامی مهم در جهت درک بهتر رفتار مدلهای برنامهنویس و بهبود ابزارهای Automated Program Repair است. اگر برنامهنویس هستید یا با مدلهای کدنویس سر و کار دارید، این تحلیل دید جالبی از پشت صحنه عملکرد آنها به شما میدهد.
منبع: arXiv AI