مدلهای زبانی بزرگ (LLM) معمولاً در حفظ ساختارهای پیچیده و طولانی دچار مشکل میشوند. حالا چارچوب جدیدی به نام «Arbor» معرفی شده که با شکستن تصمیمگیریها به وظایف کوچکتر (node-level)، دقت و کارایی را به شدت افزایش میدهد.
✅ چرا Arbor مهم است؟
این سیستم با استفاده از یک گراف جهتدار (DAG)، فقط بخشهای ضروری گفتگو را بازیابی میکند. نتیجه این کار در تستهای پزشکی شگفتانگیز بوده:
• افزایش ۲۹ درصدی دقت در پاسخها
• کاهش ۵۷ درصدی زمان پاسخگویی (Latency)
• کاهش ۱۳ برابری هزینههای پردازشی
این یعنی مدلهای کوچکتر هم میتوانند با استفاده از این معماری، از مدلهای عظیم در انجام وظایف ساختاریافته پیشی بگیرند. ابزاری حیاتی برای حوزههایی مثل تریاژ پزشکی و خدمات مشتریان حساس! 💡
منبع: arXiv AI