یکی از چالشهای بزرگ در مدلهای زبانی (LLM)، مدیریت حافظه طولانیمدت است. وقتی حجم دادهها زیاد میشود، یا با نویز مواجه میشویم یا به دلیل فشردگی بیش از حد، جزئیات مهم از دست میروند.
محققان با معرفی LazyMem، راهکار جذابی برای این مشکل پیدا کردهاند! به جای ذخیرهسازی حجیم و غیربهینه، این مدل هوشمند عملیات ساخت و فشردهسازی حافظه را درست در لحظه پرسش (Query Time) انجام میدهد.
نتیجه این کار چیست؟
✅ افزایش دقت در پاسخدهی تا ۸۵ درصد
✅ کاهش چشمگیر فضای مصرفی حافظه (تا ۲۱ برابر کمتر از مدلهای مشابه)
✅ سرعت بالاتر در بازیابی اطلاعات
این نوآوری گام مهمی برای ایجنتهایی است که باید در دنیای واقعی با حجم زیادی از تاریخچه گفتگوها کار کنند.
🔗 لینک پروژه: https://github.com/allacnobug/LazyMem
منبع: arXiv AI