یکی از بزرگترین مشکلات مدلهای زبانی فعلی، غیرقابلاعتماد بودن فرآیند استدلال آنهاست. حالا محققان معماری جدیدی به نام «Theoria» را معرفی کردهاند که به جای تکیه بر حدس و گمانِ مدل، هر پاسخ را به مجموعهای از گامهای منطقی قابلبررسی (auditable) تبدیل میکند.
تئوریا با بازنویسی راهحلها به صورت «تغییر وضعیتهای منطقی»، باعث میشود که هر مرحله از استدلال مدل قابل ردیابی و چالش باشد. این یعنی اگر مدل جایی اشتباه کند یا از فرضیات پنهان استفاده کند، بلافاصله لو میرود! در تستها، این روش در تشخیص استدلالهای غلط عملکردی خیرهکننده داشته و راه را برای ساخت مدلهای منطقیتر و شفافتر هموار کرده است. ✅
منبع: arXiv Machine Learning