محققان در پژوهشی جدید، تأثیر استفاده از محیطهای پردازش محرمانه (Confidential Computing) روی کارایی کارتهای گرافیک انویدیا H100 را بررسی کردهاند. 📉
این مطالعه نشان میدهد وقتی مدلهای بزرگی مثل Mistral-7B یا Qwen3 را در بستر امن Intel TDX اجرا میکنیم، با افت عملکردی بین ۱۷ تا ۲۷ درصد در سرعت تولید توکن مواجه میشویم! 💻
این تحقیق نشان میدهد که اگرچه امنیت دادهها اولویت اول است، اما مهندسان برای استقرار مدلهای هوش مصنوعی باید این افت کارایی را در برنامهریزی ظرفیت سختافزاری خود لحاظ کنند. به نظر شما امنیت بیشتر به قیمت کاهش سرعت، ارزشش را دارد؟ 🤔
منبع: arXiv Machine Learning
