بسیاری از توسعهدهندگان برای کاهش هزینهها و افزایش سرعت، مدلهای هوش مصنوعی را «کوانتایز» (Quantize) میکنند. اما سوال اینجاست: آیا این کار باعث میشود مدلهای هوش مصنوعی دیگر به دستورات ایمنی پایبند نباشند؟ 🤔
نتایج یک پژوهش جدید نشان میدهد که:
✅ کوانتایز کردن مدلها (حتی تا سطح INT4) تأثیر منفی چندانی روی امنیت آنها ندارد.
⚠️ برعکس، افزایش «دمای نمونهبرداری» (Sampling Temperature) میتواند باعث بیثباتی در تصمیمگیریهای مدل و افزایش ریسک خروجیهای ناخواسته شود.
📉 این مطالعه تأکید میکند که بررسی مدلها با یک بنچمارک واحد، ابعاد واقعی ریسک را به درستی نشان نمیدهد و باید در سناریوهای مختلف ارزیابی شوند.
اگر در حال توسعه اپلیکیشنهایی با LLM هستید، حواستان به تنظیمات دمای مدل باشد!
منبع: arXiv AI