آیا تا به حال دقت کردهاید که مدلهای هوش مصنوعی هنگام استفاده از ابزارها (Tool calls) زمان زیادی را در حالت انتظار یا Idle سپری میکنند؟ محققان با معرفی سیستم جدیدی به نام SPORK (Self-sPeculative fORKing) این مشکل را حل کردهاند.
💡 نکته کلیدی اینجاست که مدل در حین «فکر کردن»، حدس میزند که قدم بعدیاش چه ابزاری است و آن را زودتر اجرا میکند. این روش بدون نیاز به آموزش اضافه، میتواند زمان پاسخدهی ایجنتها را تا ۱۸ درصد کاهش دهد و پرفورمنس آنها را در وظایف پیچیده به شدت بالا ببرد.
این یعنی ایجنتهای ما در آینده نه تنها باهوشتر، بلکه بسیار سریعتر خواهند بود و دیگر خبری از اتلاف وقت برای فراخوانی ابزارها نیست.
منبع: arXiv AI