خبر جذاب برای طرفداران تکنولوژیهای بهینه؛ حالا میتوانید مدلهای زبانی بزرگ (LLM) را با استفاده از مدلهای ۱ بیتی مستقیماً در مرورگر خود اجرا کنید. این یعنی بدون نیاز به سختافزارهای فوقسنگین و سرورهای دور، مدلهای هوش مصنوعی با بهینهسازی خیرهکننده و با استفاده از WebGPU، در مرورگر شما جان میگیرند! 🌐💻
این پیشرفت نه تنها سرعت کار را بالا میبرد، بلکه حریم خصوصی را هم تقویت میکند چون پردازشها محلی انجام میشوند. حتماً نگاهی به دموهای این پروژه در Hugging Face بیندازید.
منبع: Hacker News LLM