🚀 جلوگیری از «توهم» در حافظه بلندمدت مدل‌های هوش مصنوعی!

🧠 چرا هوش مصنوعی گاهی «خیالات» می‌بیند؟

یکی از مشکلات بزرگ مدل‌های زبانی در تعاملات طولانی، پدیده «Memory Contamination» یا آلودگی حافظه است؛ یعنی وقتی مدل یک واقعیت نادرست را می‌سازد و بعداً از همان اطلاعات غلط برای تصمیم‌گیری‌های بعدی استفاده می‌کند.

محققان در مقاله جدیدی روش هوشمندانه «ConsistencyGate» را معرفی کرده‌اند. این سیستم به عنوان یک دروازه‌بان در زمان نوشتن اطلاعات در حافظه عمل می‌کند و قبل از ذخیره هر داده، با بررسی‌های مکرر و امتیازدهی، اعتبار آن را می‌سنجد.

✅ ویژگی مهم این روش: نیاز به آموزش مجدد (Fine-tuning) ندارد و مدل‌-مستقل است؛ یعنی روی هر مدل زبانی قابل پیاده‌سازی است تا خروجی‌ها در طولانی‌مدت دقیق‌تر و قابل‌اعتمادتر بمانند.

منبع: arXiv NLP