تا به امروز، آموزش مدلهای زبانی بزرگ (LLMs) تنها در اختیار شرکتهای ثروتمند با دیتاسنترهای عظیم بود، اما حالا همه چیز در حال تغییر است. محققان سیستم جدیدی به نام «Agora» را معرفی کردهاند که اجازه میدهد آموزش مدلها به صورت توزیعشده، غیرمتمرکز و با استفاده از کارتهای گرافیک معمولی (شخصی و حرفهای) انجام شود.
نکات کلیدی این دستاورد:
🔹 آموزش مشارکتی و بدون نیاز به سرورهای فوقسریع.
🔹 مالکیت اشتراکی مدل؛ هیچکس به کل وزنهای مدل دسترسی ندارد.
🔹 ثبت اولین موفقیت: آموزش مدل 8.6 میلیاردی Pluralis-8B توسط 330 نود مختلف در طول ۴۰ روز.
این یعنی قدمی بزرگ به سمت دموکراتیک کردن هوش مصنوعی و پایان سلطه انحصاری بر منابع محاسباتی! آینده «آموزش پروتکلی» (Protocol Learning) بسیار هیجانانگیز به نظر میرسد.
منبع: arXiv Machine Learning