محققان در پژوهش جدیدی به چالش «درهمتنیدگی ویژگیها» (Feature Entanglement) در مدلهای زبانی بزرگ پرداختهاند. مشکل اینجاست که وقتی میخواهیم یک ویژگی خاص را در هوش مصنوعی تغییر دهیم، این تغییر ناخواسته بر سایر بخشها هم اثر میگذارد.
تیم محققان با استفاده از اصل «مکانیسمهای علی مستقل»، روشی پیشنهاد دادهاند که ویژگیهای داخلی مدل را به سمت «تعامد» (Orthogonality) سوق میدهد. این یعنی در آینده، دانشمندان میتوانند بدون تداخل در عملکرد کلی مدل، مداخلات دقیقتر و هدفمندتری روی مفاهیمِ مدلهای هوش مصنوعی انجام دهند که به ویژه در بهبود استدلالهای ریاضی بسیار موثر است. 📉✨
برای مطالعه جزئیات بیشتر و دسترسی به کد پروژه میتوانید به مخزن گیتهاب این تیم سر بزنید.
منبع: arXiv Machine Learning