🚀 فراتر از توالی‌خوانی؛ معرفی رویکرد «استنتاج هر-ترتیبی» برای مدل‌های هوش مصنوعی!

حتماً می‌دانید که مدل‌های زبانی فعلی عمدتاً «خود-بازگشت» (Autoregressive) هستند و کلمات را یکی پس از دیگری تولید می‌کنند. اما در کارهایی مثل کدنویسی، برنامه‌نویسان مدام بین ساختار کلی و جزئیات کد جابه‌جا می‌شوند.

محققان در پژوهشی جدید، مدل‌های «دیفیوژن ماسک‌شده» (Masked Diffusion) را بهینه کرده‌اند تا بتوانند به صورت «هر-ترتیبی» (Any-Order) استنتاج کنند. این یعنی مدل دیگر محدود به یک ترتیب خطی نیست و می‌تواند به صورت همزمان یا غیرخطی، بخش‌های مختلف کد یا متن را تولید و تکمیل کند.

این نوآوری که با معرفی دو متد «Insertion-based» و «Latent-space» همراه بوده، دریچه‌ای جدید برای تولید کدهای بهینه‌تر و حل مسائل پیچیده باز کرده است. 💡💻

‌نویسی

منبع: arXiv Machine Learning