محققان در مطالعهای جدید روی مدلهای «ترنسفورمر» متوجه شدند که محل قرارگیری «اداپتورها» (Adapters) در لایههای مختلف مدل، تاثیر مستقیمی بر نحوه یادگیری و قدرت تعمیمدهی آنها دارد.
نتایج این تحقیق نشان میدهد که برای کارهای مختلف مثل یادگیری قوانین رفتاری یا ارتباطات منطقی، باید در لایههای متفاوتی از مدل (ابتدایی، میانی یا نهایی) تغییرات اعمال کرد. این یعنی برای بهینهسازی دقیقتر مدلهای هوش مصنوعی، دیگر نمیتوان فقط به قدرت محاسباتی تکیه کرد؛ بلکه باید «هندسه یادگیری» مدل را هم در نظر گرفت. یک قدم مهم دیگر برای درک بهتر ساختار درونیِ غولهای هوش مصنوعی! 🤖✨
منبع: arXiv AI