محققان به تازگی در یک مقاله جدید، معمای عجیبی را در مدلهای تشخیص دادههای خارج از توزیع (OOD) کشف کردهاند. وقتی مدلها سعی میکنند در حین کار با دادههای جدید سازگار شوند، ممکن است به جای بهبود، دچار «خود-مسمومسازی» شوند و عملاً دقت خود را از دست بدهند!
این مطالعه اثبات میکند که اگر مدلها کنترل نشوند، حافظه آنها با دادههای نویزدار پر شده و کاراییشان سقوط میکند. خبر خوب این است که محققان روشی برای ایجاد یک «دروازه پذیرش» ابداع کردهاند که از این روند مخرب جلوگیری میکند.
این دستاورد فنی گام مهمی برای پایدارتر کردن هوش مصنوعی در دنیای واقعی است که باید همیشه آماده مواجهه با دادههای پیشبینینشده باشد. 🚀
منبع: arXiv AI