اگر از کاربران مک هستید و میخواهید مدلهای زبانی بزرگ (LLM) را به صورت محلی (Local) و با سرعت بالا روی سختافزار Apple Silicon اجرا کنید، Squish یک گزینه جدید و جذاب برای شماست! این ابزار جدید با تمرکز بر بهرهوری روی تراشههای سری M اپل طراحی شده تا تجربه کار با هوش مصنوعی محلی را روانتر و بهینهتر کند. اگر به حریم خصوصی اهمیت میدهید و دوست دارید مدلهای هوش مصنوعی را روی سیستم شخصی خودتان بدون نیاز به سرورهای ابری اجرا کنید، حتما نگاهی به آن بیندازید. 🍎💻
منبع: Hacker News LLM