🚀 ابزار جدید Toolgz: کاهش ۸۰ درصدی توکن‌های تعریف ابزار در LLMها!

اگر با توسعه ایجنت‌های هوش مصنوعی سروکار دارید، حتما می‌دانید که «تعریف ابزار» (Tool definition) چقدر می‌تواند سنگین باشد و توکن‌های زیادی را اشغال کند. ابزار جدید Toolgz به تازگی معرفی شده که ادعا می‌کند بدون افت دقت، تا ۸۰ درصد در مصرف این توکن‌ها صرفه‌جویی می‌کند. این یعنی هزینه‌های کمتر و سرعت بالاتر در فراخوانی ابزارها توسط مدل‌های زبانی!

این یک قدم بزرگ برای بهینه‌سازی پروژه‌های مبتنی بر Agent است که می‌تواند تاثیر مستقیمی روی کارایی برنامه‌های شما داشته باشد.

🔗 منبع: https://github.com/dperussina/toolgz

‌نویسی

منبع: Hacker News LLM