مدل محبوب OpenAI یعنی Whisper که در تبدیل گفتار به متن فوقالعاده است، همیشه مثل یک جعبه سیاه بوده! حالا محققان با استفاده از تکنیک «خودرمزگذار پراکنده» (Sparse Autoencoder)، به بررسی لایههای داخلی انکودر این مدل پرداختهاند.
نتایج این تحقیق نشان میدهد که Whisper فراتر از حد نیاز برای تبدیل گفتار به متن، اطلاعات زبانی و معنایی بسیار غنی و ساختاریافتهای را در خود ذخیره میکند. این کشف جذاب به ما کمک میکند تا بفهمیم مدلهای هوش مصنوعی چطور درک عمیقتری از زبان پیدا میکنند. 🧠✨
منبع: arXiv NLP