تا حالا به این فکر کردید که تبدیل کد به «تصویر» به جای «متن» چقدر روی هزینههای استفاده از مدلهای زبانی تأثیر داره؟ 📉
یک مطالعه جدید و جالب بررسی کرده که وقتی سورسکدها رو به جای متن به صورت تصویر به مدلهایی مثل OpenAI، Anthropic یا جمنای گوگل میدیم، چطور توسط سیستمهای هزینهسنجی (Token Accounting) محاسبه میشن.
نتایج نشون میده که به طور کلی تبدیل کد به تصویر میتونه بین ۷۵ تا ۸۶ درصد توکنهای ورودی رو کاهش بده که یعنی صرفهجویی چشمگیر در هزینهها! البته رفتار هر مدل متفاوته؛ مثلاً جمنای در ابعاد کوچکتر ممکنه رفتار متفاوتی در شمارش داشته باشه.
اگر دولوپر هستید و زیاد با APIهای مدلهای بزرگ سر و کار دارید، این تحقیق فنی میتونه دید خیلی خوبی برای بهینهسازی هزینههای پروژههای هوش مصنوعی بهتون بده. 🚀
نویسی سازی
منبع: arXiv AI