محققان به تازگی نقص فنی عجیبی را در ابزارهای کدنویسیِ مبتنی بر LLM (مانند Claude Code) کشف کردهاند. مشکل از جایی شروع میشود که ایجنتها فرآیندهای ناقص یا متوقف شده (مثل خطاهای سیستمی) را به اشتباه به عنوان «عملیات موفقیتآمیز» در حافظه خود ذخیره میکنند!
این یعنی هوش مصنوعی در پروژههای طولانی، نتایج شکستخورده را به عنوان حقایق اثباتشده در نظر میگیرد و این خطای بزرگ را به مراحل بعدی منتقل میکند. این «شکست معرفتی» زنگ خطری جدی برای توسعهدهندگانی است که در پروژههای حساس و خودکار، به حافظهی ایجنتها اعتماد کامل میکنند.
حتماً در استفاده از ایجنتهای کدنویس، خروجیها را دوباره بازبینی کنید!
نویسی
منبع: arXiv AI