اگر فکر میکردید برای اجرای یک سیستم چت صوتی هوشمند (Stt+LLM+TTS) حتماً به سختافزارهای فوقسنگین نیاز دارید، این خبر نظرتان را تغییر میدهد! به تازگی پروژهای منتشر شده که امکان اجرای یک سرور چت صوتی با تاخیر بسیار کم (حدود ۱۱.۹ ثانیه) را تنها با استفاده از یک کارت گرافیک اقتصادی RTX 3050 Ti با ۴ گیگابایت حافظه فراهم کرده است.
این یعنی هوش مصنوعی محاورهای در حال دموکراتیزه شدن است و شما میتوانید با سختافزار در دسترس، دستیار صوتی شخصی خودتان را داشته باشید. این دستاورد خبر فوقالعادهای برای توسعهدهندگان محلی و علاقمندان به پروژههای متنباز است.
منبع: Lilting
منبع: Hacker News LLM