محققان بهتازگی متد جدیدی برای بهبود «توجه هستهای» (Kernel Attention) در مدلهای ترنسفورمر معرفی کردهاند. این روش که از مدلهای ذرات کولنی (Coulomb Particle Model) الهام گرفته، با ایجاد تعادل بین ذرات، ویژگیهای تصادفی (Random Features) هوشمندتر و سازگارتری برای مدل تولید میکند.
این نوآوری نه تنها باعث افزایش دقت و پایداری مدل میشود، بلکه پیچیدگی محاسباتی را در حد «توجه خطی» حفظ میکند تا مدلها سریعتر و دقیقتر عمل کنند. گام بزرگی برای نسل بعدی هوش مصنوعی! 🧠💡
منبع: arXiv Machine Learning