تا به حال فکر کردهاید چرا مدلهای هوش مصنوعی گاهی با اطمینان کاذب دچار خطا میشوند؟ محققان در پژوهش جدیدی، پدیدهای به نام «Spectral Drift» یا «رانش طیفی» را شناسایی کردهاند که نشان میدهد قبل از بروز یک خطای نهایی در مدل، الگوهای خاصی در لایههای میانی ایجاد میشود که در خروجی نهایی پنهان میماند.
با معرفی معماری جدید SDNN، حالا میتوان این عدم قطعیتها را در مراحل پردازش تشخیص داد و دقت مدلها را به طرز چشمگیری بهبود بخشید. این رویکرد در آزمایشها توانسته عملکرد بسیار بهتری نسبت به روشهای سنتیِ مبتنی بر احتمالات (مانند MaxSoftmax) داشته باشد.
این یعنی قدمی دیگر به سوی ساخت مدلهای هوش مصنوعیِ قابلاعتمادتر و هوشمندتر! 🤖✨
منبع: arXiv Computer Vision