🧠 حافظه هوش مصنوعی؛ «کم‌دانشی» بهتر از «دانشِ غلط» است!

محققان در یک پژوهش جدید روی مدل‌های زبانی متوجه شدند که داشتن یک حافظه ناقص و خطادار، گاهی از «نداشتن حافظه» هم برای مدل خطرناک‌تر است. این پدیده که به آن «حافظه شکننده» (Brittle Memory) می‌گویند، باعث می‌شود مدل به جای اعتراف به ندانستن، با اعتماد به نفسِ کاذب پاسخ‌های غلط ارائه دهد.

💡 نکته کلیدی این تحقیق این است که مدل‌ها باید یاد بگیرند به جای ذخیره «نتیجه نهایی»، «منبع و استدلال» رسیدن به آن را حفظ کنند. این استراتژی باعث می‌شود مدل‌ها در صورت بروز خطا، قابلیت اصلاح‌پذیری بسیار بالاتری داشته باشند.

این یافته می‌تواند مسیر جدیدی برای ساخت ایجنت‌های هوشمندتر و قابل‌اعتمادتر باز کند تا کمتر دچار توهم (Hallucination) شوند.

منبع: arXiv AI