دنیای مدلهای زبانی متنباز (Open-Source) با معرفی مدل جدید «Soofi S 30B-A3B» جانی تازه گرفت. این مدل با معماری ترکیبی Mixture-of-Experts و Mamba، نه تنها در پردازش زبانهای آلمانی و انگلیسی فوقالعاده عمل میکند، بلکه در کارهای برنامهنویسی نیز رقبای بزرگتر از خود را به چالش کشیده است!
نکات کلیدی:
✅ دارای طراحی هوشمندانه که تنها از ۳ میلیارد پارامتر فعال از مجموع ۳۰ میلیارد استفاده میکند.
✅ عملکرد بینظیر در مدیریت دادههای حجیم (Long-context).
✅ توسعهیافته در زیرساختهای ابری صنعتی آلمان و کاملاً شفاف در نحوه آموزش.
✅ دسترسی آزاد برای استفاده عموم با مجوزهای بسیار منعطف.
این مدل نشان میدهد که چطور میتوان با تکیه بر زیرساختهای اروپایی، رقیبی جدی برای غولهای مدلهای زبانی ساخت. نظر شما درباره مدلهای تخصصیتر و بومیسازی شده چیست؟
منبع: arXiv AI