حتماً میدانید که برای اجرای مدلهای هوش مصنوعی روی دستگاههای ضعیفتر، از تکنیک «کوانتایزیشن» یا فشردهسازی استفاده میکنیم. اما یک تحقیق جدید در arXiv نشان داده که قضیه به این سادگیها نیست!
نتایج این پژوهش ثابت کرده که حتی اگر دقتِ یک مدل (Accuracy) بعد از فشردهسازی ثابت بماند، ممکن است «نحوه استدلال» و توجه مدل به ویژگیهای تصاویر کاملاً تغییر کند. به زبان ساده: مدل هنوز درست پیشبینی میکند، اما این بار با دلایل (یا بهتر بگوییم، بخشهای بصری) متفاوتی به این نتیجه میرسد! 🧐
این یافته برای توسعهدهندگانی که روی سیستمهای حساس (مثل پزشکی یا خودران) کار میکنند، زنگ خطری جدی است تا بدانند دقتِ عددی همیشه به معنای پایداریِ منطقِ درونی مدل نیست.
منبع: arXiv Computer Vision