دانشمندان حوزه هوش مصنوعی موفق شدند با استفاده از تکنیک «تقطیر دانش» (Distillation)، یک مدل بزرگ و سنگین را به مدلی بسیار کوچک و بهینه تبدیل کنند که روی موبایل هم اجرا میشود! 📱
🔹 در این پژوهش، یک مدل ۸ میلیاردی (DeepSeek-R1) به یک مدل جمعوجور ۰.۶ میلیاردی تبدیل شده است.
🔹 نتیجه خیرهکننده است: این مدل کوچک میتواند با سرعت ۳۹ ثانیه در هر مقاله، تنها در کمتر از ۱ ثانیه (۰.۸ ثانیه) پردازش را انجام دهد و کیفیت خروجی را هم به شکل قابل توجهی حفظ کند.
این یعنی به زودی میتوانیم قابلیتهای هوش مصنوعی پیشرفته را بدون نیاز به سرورهای عظیم و با سرعت بالا، مستقیم روی گوشیهای هوشمند تجربه کنیم! ⚡️
منبع: arXiv NLP
