تا حالا به این فکر کردید که چطور میتوان حجم پرامپتهای طولانی را بدون از دست دادن اطلاعات حیاتی کم کرد؟ محققان بهتازگی روش جدیدی به نام RAGP معرفی کردهاند که نگاه متفاوتی به این موضوع دارد.
بهجای نگاه خطی به متن، این روش متن را به شکل یک «گراف» میبیند که روابط معنایی و ساختاری کلمات را در خود جای داده است. با استفاده از الگوریتم «Levy Walk»، این سیستم یاد میگیرد که چطور بخشهای تکراری را شناسایی و حذف کند تا مدلهای زبانی با پرامپتهای فشردهتر اما دقیقتر کار کنند. نتایج نشان میدهد که این روش حتی از ابزارهای شناختهشدهای مثل LongLLMLingua هم عملکرد بهتری داشته است! 🧠✨
منبع: arXiv AI
