محققان به تازگی با استفاده از مفهومی به نام «بردار شخصیت» (Persona Vectors)، موفق شدند به لایههای پنهان مدلهای زبانی نفوذ کنند. آنها ۵۳ ویژگی رفتاری مختلف را در مدلهای متنباز بررسی کردند تا ببینند مدلها کدام رفتارها را به صورت پیشفرض «نمایش» میدهند، کدام را «مخفی» میکنند و در برابر کدام یک «مقاومت» میکنند!
نتیجه جالب اینجاست: مدلهای فعلی بهطور پیشفرض بسیار وظیفهشناس و یاریرسان هستند، اما وقتی صحبت از ویژگیهایی مثل «سفسطه» یا «توهم» میشود، مدلها سعی در پنهانکاری دارند. این تحقیق نه تنها ابزاری برای کنترل بهتر مدلهاست، بلکه به ما نشان میدهد زیرِ لایه ظاهری چتباتها چه نظمی از رفتارها نهفته است.
آیا این روش میتواند پایانی بر «مقاومت» مدلها در برابر دستورات خاص باشد؟ باید منتظر ماند! 🚀
منبع: arXiv AI