🛡️ آیا مدل‌های زبانی بزرگتر، امن‌تر هستند؟

محققان در پژوهشی جدید، رابطه جالبی بین «ظرفیت مدل» و «امنیت در یادگیری در متن (In-Context Learning)» کشف کرده‌اند. نتایج این تحقیق نشان می‌دهد که مدل‌های زبانی با پارامترهای بیشتر، در برابر ورودی‌های مخرب و تغییرات توزیع داده‌ها (Adversarial Shifts) مقاومت بسیار بهتری نشان می‌دهند.

نکته کلیدی اینجاست که برای حفظ عملکرد در شرایط ناپایدار، علاوه بر قدرت مدل، تعداد نمونه‌های در دسترس (In-Context Examples) نیز نقش حیاتی ایفا می‌کند. به عبارت ساده‌تر: هرچه مدل بزرگتر باشد، در برابر حملات توزیع داده‌ای ایمن‌تر است! 🧠✨

منبع: arXiv Machine Learning