یکی از چالشهای بزرگ در استفاده از مدلهای زبانی (LLM) برای پردازش اسناد بسیار طولانی، نحوه دسترسی آنها به اطلاعات است. آیا باید کل متن را به حافظه (Context) داد یا از روشهای بازیابی (Retrieval) استفاده کرد؟
محققان در یک پژوهش جدید به سراغ تکنیکی به نام «Progressive Disclosure» یا «افشای تدریجی» رفتهاند. در این روش، ایجنت به جای بارگذاریِ یکجای کل محتوا، اطلاعات را به صورت لایه به لایه و تنها بر اساس نیازِ پرسش دریافت میکند.
نتایج جالب است: این روش برای کتابها و متون بسیار طولانی عالی عمل میکند و کارایی ایجنت را نسبت به روشهای سنتی افزایش میدهد، اما دقت کنید که این روش «زمینه» بیشتری برای ایجنت میخرد، نه «هوش» بیشتر!
نتیجهگیری کلیدی این تحقیق: یک سطح افشای تدریجی کافی است و پیچیدهتر کردن آن نه تنها کمکی نمیکند، بلکه ممکن است دقت مدل را کاهش دهد.
منبع: arXiv AI