🧠 حافظه هوشمندتر برای مدل‌های زبانی: مقابله با اطلاعات غلط و نویز!

محققان در پژوهش جدیدی به سراغ بهبود حافظه بلندمدت در مدل‌های زبانی بزرگ (LLM) رفته‌اند. چالش اصلی این است که مدل‌ها چگونه اطلاعاتِ قابل اعتماد را از اطلاعات گمراه‌کننده تشخیص دهند؟

این مقاله با معرفی معماری «Nous»، از روش‌های احتمالات بیزی استفاده می‌کند تا به مدل‌ها یاد بدهد به جای تکیه بر اطلاعات قدیمی (Last-write-wins)، بر اساس میزان «اعتبار منبع» و محتوا، حافظه خود را به‌روزرسانی کنند. این رویکرد جدید نه تنها باعث می‌شود مدل‌ها در برابر حملات «مسموم‌سازی حافظه» (Memory-poisoning) مقاوم‌تر شوند، بلکه دقت آن‌ها را در ارزیابی صحت اطلاعات به شدت افزایش می‌دهد.

این تحقیق نشان می‌دهد که برای داشتن هوش مصنوعیِ قابل اعتمادتر، باید دقیق‌تر از همیشه به نحوه «به‌خاطر سپردن» و «اعتبار‌سنجی» داده‌ها فکر کنیم! 💡

منبع: arXiv Machine Learning