تا به حال دقت کردید که دستیارهای صوتی هوشمند چقدر برای پردازش پاسخهای پیچیده معطل میکنند؟ مدلهای قوی کند هستند و مدلهای سریع هم دقت کمی دارند.
محققان با معرفی سیستم جدید «ConvFill» این مشکل را حل کردهاند. این تکنولوژی به یک مدل کوچک اجازه میدهد تا همزمان با پاسخدهی سریع به کاربر، پاسخهای سنگین و دقیق را از مدلهای بزرگتر دریافت و در لحظه جایگذاری کند.
خلاصه اینکه: سیستم ConvFill کاری میکند که دستیار صوتی شما در عین «باهوش بودن» مثل یک انسان واقعی، «بدون تأخیر» هم صحبت کند! نتایج تستها نشان میدهد این مدلها روی سختافزارهایی مثل Apple M2 عملکردی فوقالعاده دارند.
منبع: arXiv NLP
