تصور کنید یک مدل زبانی کوچک اما کاربردی (LLM) را مستقیماً روی ساعت هوشمندتان اجرا کنید. یک توسعهدهنده خلاق موفق شده با پورت کردن `llama.cpp` روی Apple Watch، یک مدل ۰.۸ میلیاردی را به صورت محلی (Local) روی این گجت کوچک اجرا کند.
این اتفاق نشان میدهد که مرزهای اجرای هوش مصنوعی چقدر جابجا شده و حالا حتی سختافزارهای بسیار محدود هم میتوانند میزبان مدلهای هوشمند باشند. دنیای پردازش محلی به سمتی میرود که دیگر نیازی به فضای ابری برای بسیاری از کارهای ساده نخواهیم داشت!
منبع: Hacker News LLM