🧠 کنترل لهجه‌ها در مدل‌های زبانی؛ فراتر از آموزش مجدد!

آیا تا به حال فکر کرده‌اید که چطور می‌توان مدل‌های زبانی (LLM) را بدون نیاز به آموزش مجدد (Fine-tuning)، مجبور کرد با لهجه‌های خاص صحبت کنند؟

در تحقیق جدیدی که بر روی مدل‌های عربی انجام شده، محققان به راهکار جالبی دست یافته‌اند:

۱. شناسایی نورون‌های خاص: آن‌ها متوجه شدند که نورون‌های مشخصی مسئول پردازش ویژگی‌های لهجه‌ای هستند. با تقویت یا سرکوب این نورون‌ها، می‌توان خروجی مدل را به سمت لهجه دلخواه تغییر داد.

۲. تزریق بردارهای جهت‌دهی: علاوه بر این، با استخراج بردارهای فعال‌سازی مرتبط با لهجه و تزریق آن‌ها در زمان اجرا (Inference)، می‌توان مدل را بدون تغییر در ساختار اصلی، به سمت لهجه خاص هدایت کرد.

این دستاورد نه تنها به درک بهترِ ساختار درونی مدل‌ها کمک می‌کند، بلکه راهکاری بسیار بهینه برای بومی‌سازی مدل‌های هوش مصنوعی برای زبان‌ها و لهجه‌های متنوع است.

منبع: arXiv NLP