تا به حال فکر کردید وقتی مدلهای زبانی را برای انجام کارهای خاص «هدایت» (Steering) میکنیم، چقدر باید به آنها فشار بیاوریم؟ اگر خیلی کم باشد، مدل کارش را درست انجام نمیدهد و اگر خیلی زیاد باشد، عملکردش افتضاح میشود!
محققان در یک مقاله جدید و جذاب، برای اولین بار تحلیل نظری دقیقی روی «قدرت هدایت» (Steering Strength) انجام دادهاند. آنها کشف کردند که رفتار مدلها در پاسخ به تغییرات هدایت، همیشه خطی نیست و گاهی رفتارهای بسیار عجیبی (غیریکنواخت) از خود نشان میدهند.
این تحقیق با بررسی ۱۱ مدل زبانی مختلف، از مدلهای کوچک گرفته تا غولهای مدرن، به ما کمک میکند تا کنترل دقیقتر و بهینهتری روی خروجیهای هوش مصنوعی داشته باشیم. قدمی مهم برای ساخت مدلهایی که دقیقاً همانطور که میخواهیم رفتار کنند! 🚀
منبع: arXiv Machine Learning