دانشمندان حوزه هوش مصنوعی به چالش جذابی در «تفسیرپذیری مکانیکی» پاسخ دادند. یکی از مشکلات مدلهای بزرگ زبانی این است که حتی اگر دو مدل BERT کاملاً مشابه را به صورت مستقل آموزش دهیم، به دلیل ماهیت تصادفی یادگیری، ویژگیهای مشابه در آنها در فضای متفاوتی شکل میگیرند.
حالا محققان با معرفی روش «Procrustes-conditioned Joint SAE»، راهی پیدا کردهاند تا این ویژگیها را با هم تراز کنند و به یک «جهانشمولی» (Universality) بالاتر برسند. نتیجه؟ این مدل جدید میتواند الگوهای ظریف اجتماعی و زبانی را در مدلهای مختلف به شکل یکپارچه و قابلفهمتری استخراج کند. این پیشرفت یعنی ما داریم به درکِ دقیقتری از اینکه هوش مصنوعی واقعاً چطور فکر میکند، نزدیکتر میشویم! 🧠🚀
منبع: arXiv NLP
