یکی از چالشهای بزرگ در سیستمهای RAG (بازیابی-تولید)، استفاده از پاسخهای کششدهای است که ممکن است به دلیل تغییرات لحظهای در وب، دیگر دقیق نباشند. حالا محققان «FreshCache» را معرفی کردهاند که با استفاده از مدلهای احتمالات و استنتاج زمانی، تشخیص میدهد چه زمانی دادههای کششده قابل اعتماد هستند و چه زمانی نیاز به بهروزرسانی دارند.
این نوآوری نه تنها هزینهها را کاهش میدهد، بلکه دقت مدلهای زبانی را در مواجهه با اطلاعات دنیای واقعی (Open-Web) به شکل چشمگیری افزایش میدهد. FreshCache با کاهش ۹۷ درصدی در استفاده از APIهای جستجو، قدم بزرگی برای هوشمندتر کردن سیستمهای بازیابی اطلاعات برداشته است.
منبع: arXiv AI