آیا مدلهای ترنسفورمر در پردازش دادههای سری زمانی طولانی دچار افت سرعت میشوند؟ محققان با معرفی مدل «Phasor Transformer» راهکار هوشمندانهای برای این چالش پیدا کردهاند.
این مدل جدید به جای استفاده از مکانیزمهای سنگین و محاسبات پیچیده توجه (Attention)، از هندسه «دایره واحد» و تبدیل فوریه گسسته (DFT) استفاده میکند. نتیجه این کار، دستیابی به سرعت پردازش بالاتر و بهرهوری بیشتر در مدلهای بزرگ (LPM) است، بدون اینکه دقت مدل کاهش یابد.
این نوآوری گامی مهم برای افزایش مقیاسپذیری هوش مصنوعی در تحلیل دادههای نوسانی و سری زمانی است. 📈✨
منبع: arXiv Machine Learning