تا به حال فکر کردهاید که وقتی یک مدل هوش مصنوعی را با روش LoRA بهینهسازی (Fine-tuning) میکنید، دقیقاً چه اتفاقی در لایههای مدل میافتد؟ آیا آداپتورها فقط یک مهارت جدید یاد میگیرند یا در حال ذخیره دادههای ورودی هستند؟
محققان در پژوهشی جدید، با ابزاری دقیق به اندازهگیری حافظه آداپتورها پرداختهاند. نتایج جالب است:
۱. آداپتورها بسیار کمتر از آنچه فکر میکنیم اطلاعات ذخیره میکنند، اما این مقدار به “محل قرارگیری” آنها در مدل بستگی دارد (مثلاً MLPها ظرفیت بیشتری نسبت به Attention دارند).
۲. در مدلهای آموزش دیده با پاداش (RL)، خبری از ثبت کلمه به کلمه اسرار نیست، برخلاف آموزشهای نظارتشده (Supervised) که ریسک نشت داده در آنها بیشتر است.
این تحقیق، افسانهها را کنار زده و راه را برای طراحی مدلهای امنتر و بهینهتر باز میکند. 🔍
منبع: arXiv Machine Learning