محققان در یک پژوهش جدید با معرفی «تونلهای باد بیزی» (Bayesian Wind Tunnels)، توانایی ترنسفورمرها را برای انجام «انتخاب مدل بیزی» به چالش کشیدند. این مطالعه نشان میدهد که ترنسفورمرهای کوچک میتوانند با دقت بسیار بالا، کلاسهای فرضی مختلف را از دادهها تشخیص دهند.
نکته هیجانانگیز اینجاست: مدل در شرایطی که با نمادهای انتزاعی و بیمعنی روبرو میشود، در برخی مسائل محاسباتی دچار چالش میشود که نشان میدهد «پایداری معنایی» نقش کلیدی در یادگیریِ عمیق ایفا میکند. این پژوهش گامی مهم برای درک بهتر نحوه استدلال و یادگیریِ منطقی در مدلهای زبانی بزرگ است. 🚀
منبع: arXiv Machine Learning