مدلهای LoRA در دنیای هوش مصنوعی بسیار محبوب هستند، اما مدیریت و مسیریابی آنها (Routing) معمولاً به هزینههای پردازشی و آموزشی زیادی نیاز دارد. حالا محققان با معرفی فریمورک جدید PMD (Parametric Memory Decoding)، راهکاری ارائه دادهاند که بدون نیاز به کامپوننتهای مسیریابی اضافه، این کار را به صورت «صفر-شات» (Zero-shot) انجام میدهد.
این متد که با نام PMDRouter معرفی شده، با تحلیل پاسخ مدل از یک پیشزمینه (prefill) واحد، بهترین LoRA را انتخاب میکند. این یعنی: افزایش بهرهوری، کاهش پیچیدگی و سرعتی بالاتر در کار با حافظههای پارامتریک خارجی (EPM).
یک قدم دیگر به سمت مدلهای سبکتر و هوشمندتر!
منبع: arXiv AI