محققان در تازهترین پژوهش خود، متد جدیدی به نام «Distributed Sparse Interventions» (DSI) معرفی کردهاند که درک ما از نحوه عملکرد درونی مدلهای زبانی را متحول میکند.
تکنیکهای فعلی معمولاً تغییرات را بهصورت کلی اعمال میکنند، اما روش DSI به جای آن، روی «نورونهای خاص» و روابط غیرخطی بین آنها تمرکز دارد. نکته خیرهکننده اینجاست که دانشمندان توانستهاند تنها با مداخله در ۰.۰۱٪ از نورونها، رفتار مدل را کنترل و وظایف خاصی را در آن فعال کنند. این دستاورد، گام بزرگی برای ساخت مدلهای هوش مصنوعی شفافتر و با قابلیت کنترل بیشتر است.
منبع: arXiv Machine Learning