خبر هیجانانگیز برای طرفداران بهینهسازی: پروژه جدیدی با نام «cpubrrr» منتشر شده که امکان اجرای مدلهای زبانی بزرگ (LLM) در سطح مدلهای فرانتیر (Frontier-class) را صرفاً با استفاده از CPU لپتاپ فراهم میکند.
این یعنی برای تجربهی قدرت هوش مصنوعیهای پیشرفته، دیگر لزوماً نیازی به کارتهای گرافیک گرانقیمت ندارید. اگر به دنیای اینفرنس مدلها و بهینهسازی سختافزاری علاقه دارید، حتماً نگاهی به این پروژه در گیتهاب بیندازید! 💻⚡️
منبع: Hacker News LLM