تازه چه خبر در دنیای هوش مصنوعی؟ محققان در یک مقاله جدید، چالشهای اجرای مدلهای «بینایی-زبانی» (Multimodal LLMs) روی دستگاههای لبه (Edge) رو زیر ذرهبین بردن.
نکته مهم این پژوهش چیه؟
برخلاف روشهای سنتی که هر بخش (مثل فشردهسازی، کوانتایزیشن و مسیریابی) رو جداگانه بهینه میکنن، این مقاله نشون میده که تمام این فرآیندها به هم وابسته هستن! مثلاً نحوه فشردهسازی تصاویر مستقیماً روی تصمیمگیری مدل برای استفاده از متخصصها (MoE) اثر میذاره.
این یعنی برای داشتن یک هوش مصنوعی سریعتر، کممصرفتر و دقیقتر روی گوشی یا دستگاههای هوشمند، باید به تعامل پیچیده این تکنیکها دقت کرد. این دیدگاه جدید به طراحان مدل کمک میکنه تا تعادل بهتری بین دقت و سرعت برقرار کنن. ⚡️
منبع: arXiv AI