تا حالا فکر کردید اگر هوش مصنوعی «حافظه ناقص» داشته باشد چه اتفاقی میافتد؟ محققان در مطالعه جدیدی به پدیدهای به نام «حافظه شکننده» (Brittle Memory) اشاره کردهاند که میتواند مدلهای قدرتمند را به بیراهه بکشد.
نکته جالب اینجاست: اگر مدل به جای ذخیره کردن «مسیر رسیدن به پاسخ»، فقط «نتیجه نهایی» را حفظ کند و آن نتیجه اشتباه باشد، مدل در آینده با اعتماد به نفس کامل آن غلط را تکرار میکند!
این تحقیق نشان میدهد که:
✅ مدلها وقتی حافظهشان خالی است، بهتر عمل میکنند تا زمانی که حافظهای ناقص و گمراهکننده دارند.
✅ راهکار پیشنهادی محققان، تغییر سیاست ذخیرهسازی است: «منبعِ قابل بازتولید را حفظ کن، اما نتیجهی نهایی را حذف کن».
این یعنی هوش مصنوعی باید یاد بگیرد به جای حفظ کردن طوطیوار جوابها، مسیر رسیدن به حقیقت را در حافظهاش نگه دارد تا در صورت بروز خطا، قابل اصلاح باشد.
منبع: arXiv AI