اگر در حال توسعه اپلیکیشنهایی هستید که از مدلهای زبانی بزرگ استفاده میکنند، «Shepherd Model Gateway» ابزار جدید و جذابی برای شماست. این پروژه یک گیتوی (Gateway) اختصاصی برای روتینگ (مسیردهی) مدلهاست که مدیریت استقرار و تعامل با LLMها را بسیار بهینهتر میکند.
این ابزار به شما کمک میکند تا درخواستها را بهصورت هوشمندانه مدیریت کرده و عملکرد پروژههای هوش مصنوعی خود را ارتقا دهید.
🔗 میتوانید جزئیات بیشتر را در مخزن گیتهاب این پروژه بررسی کنید: https://github.com/lightseekorg/smg
نویسی
منبع: Hacker News LLM