🚀 سرعت اجرای مدل‌های زبانی روی اپل سیلیکون چقدر است؟ 🍎💻

اگر از کاربران مک‌های اپل هستید و می‌خواهید بدانید مدل‌های هوش مصنوعی چطور روی سخت‌افزارهای اپل سیلیکون (M1, M2, M3) اجرا می‌شوند، این داده‌های جدید برای شماست!

محققان به تازگی نتایج بنچمارک دقیق و کاملی را از سرعت استنتاج (Inference) مدل‌های زبانی بزرگ روی تراشه‌های اپل منتشر کرده‌اند. این گزارش، داده‌های خامی را ارائه می‌دهد که به توسعه‌دهندگان کمک می‌کند تا درک بهتری از پرفورمنس واقعی سخت‌افزارهای اپل برای اجرای لوکال مدل‌های AI داشته باشند.

🔗 برای بررسی جزئیات و مشاهده بنچمارک‌ها می‌توانید به لینک زیر مراجعه کنید:
https://macyou.co/benchmarks

منبع: Hacker News LLM