آیا همیشه برای استفاده از هوش مصنوعی به سختافزارهای غولآسا نیاز داریم؟ خبر خوب اینکه محققان به تازگی روی راهکارهایی کار کردهاند که به ما اجازه میدهد مدلهای زبانی کوچک (Small Language Models) را با دقت بسیار بالا و هزینه ناچیز روی سختافزارهای معمولی اجرا کنیم.
این تحقیق نشان میدهد که با استفاده از تکنیکهای بهینهسازی پارامترها (مانند LoRA) و کوانتایزیشن، میتوان مدلهای بین ۱۳۵ میلیون تا ۳ میلیارد پارامتر را برای وظایف تخصصی بهخوبی آموزش داد. در این تستها، مدلهایی مثل Qwen Coder نتایج خیرهکنندهای کسب کردهاند که ثابت میکند آینده هوش مصنوعی لزوماً در مدلهای عظیم نیست، بلکه در مدلهای هوشمند و قابلدسترسی برای همگان است. این خبر بزرگی برای توسعهدهندگانی است که به دنبال اجرای محلی و امن هوش مصنوعی هستند! 💻✨
منبع: arXiv AI