اگر با مدلهای زبانی بزرگ (LLM) کار میکنید یا توسعهدهنده ایجنتهای هوش مصنوعی هستید، خبر خوب اینکه نسخه دوم ابزار «Compressor» منتشر شده است! این فناوری با استفاده از سه لایه فشردهسازی هوشمند، موفق شده هزینههای عملیاتی ایجنتهای هوش مصنوعی را تا ۵۰ درصد کاهش دهد.
این یعنی کارایی بالاتر در کنار صرفهجویی چشمگیر در منابع و هزینههای محاسباتی. این بهروزرسانی گام مهمی برای مقرونبهصرفهتر کردن پروژههای بزرگ هوش مصنوعی محسوب میشود.
سازی
منبع: Hacker News LLM