مدلهای دیفیوژن گسسته (Discrete Diffusion) با وجود سرعت بالا در تولید داده، همیشه با یک مشکل بزرگ در مدلسازی «چند مرحلهای» دستوپنج نرم میکردند. حالا محققان با استفاده از تکنیک «تجزیه تانسوری» (Tensor Decomposition)، چارچوب جدیدی معرفی کردهاند که این محدودیتهای ساختاری را دور میزند.
این روش که با ترکیبهای CPD و TTD کار میکند، وابستگی بین توکنهای مجاور را بهتر درک کرده و امکان تولید سریعتر و باکیفیتتر دادههای متوالی (مثل زبان طبیعی یا توالیهای مولکولی) را فراهم کرده است. بهترین بخش ماجرا؟ این متد جدید بهراحتی روی مدلهای از پیش آموزشدیده (MDMs) با تنظیمات سبک قابل اجراست!
منبع: arXiv Machine Learning