مدلهای زبانی (LLM) معمولاً در درک دادههای ساختاریافته مثل «گرافهای دانش» چالش دارند. روشهای قبلی یا نیاز به پیشپردازشهای سنگین داشتند یا حجم توکنها را به شدت بالا میبردند.
حالا محققان با معرفی GRIP، راهکار هوشمندانهای ارائه دادهاند: به جای تبدیل گراف به متن یا استفاده از ماژولهای جانبی پیچیده، GRIP دانش ساختاری گراف را مستقیماً از طریق «Fine-tuning» در پارامترهای مدل تزریق میکند! 📊
این یعنی مدل پس از آموزش، دانش گراف را در ماژولهای سبک LoRA ذخیره کرده و برای استنتاج دیگر نیازی به دسترسی به خودِ گراف ندارد. یک قدم بزرگ برای کارایی بیشتر مدلهای زبانی در تحلیلهای ساختاری پیچیده! 📈✨
منبع: arXiv AI