یکی از چالشهای بزرگ مدلهای زبانی، محدودیت محاسباتی هنگام استدلال است؛ در واقع مدلها برای بیان مراحل منطقی خود، توکنهای زیادی مصرف میکنند که سرعت را کاهش میدهد.
محققان در مقاله جدیدی روشی به نام MUX را معرفی کردهاند که با استفاده از «توکنهای چندگانه در فضای نهفته» (Multiplexed Tokens)، اجازه میدهد استدلالها بهصورت فشرده و با پهنای باند بالا انجام شوند. این تکنیک نهتنها از اتلاف توکنها جلوگیری میکند، بلکه دقت و قابلیت جستجو در مسائل پیچیده را به طرز چشمگیری افزایش میدهد.
این نوآوری میتواند گام مهمی در جهت مدلهای هوشمندتر و سریعتر باشد! 🧠✨
منبع: arXiv AI