اگر در حال استفاده از مدلهای هوش مصنوعی در مقیاس بزرگ هستید، حتماً با چالش انتخاب مدل و هزینههای آن روبرو شدهاید. مقاله جدیدی که در arXiv منتشر شده، به سراغ ایدهی جذابی به نام «آربیتراژ محاسباتی» رفته است.
این روش با هوشمندی کامل مسیرهای پردازشی را بر اساس هزینه، کارایی و نیازِ مدل (از طریق مسیریابی و فاینتیونینگ) انتخاب میکند تا بهترین نتیجه را با کمترین هزینه به دست آورید. به زبان ساده: هوش مصنوعی یاد میگیرد که برای هر درخواست، کدام مدل یا تنظیمات بیشترین بازدهی اقتصادی را دارد! 💸
این رویکرد میتواند تحولی در زیرساختهای ابری و هزینههای سرویسهای مبتنی بر AI ایجاد کند. علاقهمندان به دنیای مهندسی مدلهای زبانی بزرگ، مطالعه این پژوهش رو از دست ندن. 🚀
سازی های_زبانی
منبع: Hacker News AI