محققان در تازهترین پژوهش خود، فریمورک جدیدی به نام VTC معرفی کردهاند که انقلابی در عملکرد مدلهای بزرگ زبانی (LLM) ایجاد میکند. این سیستم با معرفی مفهوم «تانسورهای مجازی» (Virtual Tensors)، مشکل قدیمی کندی جابجایی دادهها بین پردازنده و حافظه را هدف قرار داده است.
نتایج آزمایشها نشان میدهد که VTC میتواند:
✅ سرعت پردازش را تا ۱.۹۳ برابر در پردازندههای گرافیکی انویدیا افزایش دهد.
✅ مصرف حافظه را تا ۶۰ درصد کاهش دهد.
این یک گام بزرگ برای اجرای مدلهای سنگین هوش مصنوعی روی سختافزارهای فعلی است! 💻⚙️
منبع: arXiv Machine Learning