این روزها همه درباره قدرت مدلها حرف میزنند، اما پشت پرده، هزینههای استنتاج (Inference) یکی از چالشهای اصلی شرکتهای AI است. در یک بررسی فنی و دقیق روی مدل چینی «Kimi K3»، محاسبات جالبی درباره هزینههای زیرساختی و سودآوری مدلهای زبانی بزرگ انجام شده است.
اگر به مباحث اقتصادی دنیای هوش مصنوعی و چالشهای هزینهبرِ اجرای مدلهای عظیم علاقه دارید، مطالعه این گزارش میتواند دید خیلی خوبی به شما بدهد.
🔗 لینک بررسی: https://cefboud.com/posts/ai-inference-costs-profit/
منبع: Hacker News LLM