اگر از سختافزارهای اپل (Apple Silicon) استفاده میکنید و دغدغه اجرای مدلهای زبانی بزرگ (LLM) را دارید، ابزار جدید Mlx-serve را از دست ندهید! این سرویسدهنده که با زبان «Zig» توسعه یافته، بهینهترین تجربه اجرای مدلها را روی سختافزارهای اپل فراهم میکند.
این ابزار برای توسعهدهندگانی که میخواهند مدلهای هوش مصنوعی را به شکلی سبک و سریع روی سیستمهای مک خود اجرا کنند، یک انتخاب فوقالعاده است. 💻✨
منبع: Hacker News LLM
