اگر به دنبال راهکاری برای خودمیزبانی (Self-hosting) مدلهای زبانی هستید، ابزار جدید LLMrPro یک انتخاب عالی است. این پروژه به شما اجازه میدهد چندین مدل مختلف را به صورت محلی مدیریت کرده و از طریق یک API سازگار با OpenAI، از آنها استفاده کنید. این ابزار برای توسعهدهندگانی که میخواهند کنترل کاملی روی پردازش دادهها و هزینه استفاده از مدلهای هوش مصنوعی داشته باشند، بسیار کاربردی است.
🔗 ابزاری سبک و قدرتمند برای کسانی که میخواهند از قید APIهای پرهزینه رها شوند!
نویسی
منبع: Hacker News LLM