آیا هوش مصنوعی در محیطهای چندعاملی همیشه تصمیمات درستی میگیرد؟ محققان در مطالعه جدید خود به چالش جالبی برخورد کردهاند: زمانی که مدلهای هوش مصنوعی با هم توافق میکنند، ممکن است همگی دچار خطاهای مشابه و پنهانی شوند که سیستمهای نظارتی سنتی آنها را شناسایی نمیکنند!
برای حل این مشکل، مدل جدیدی به نام ARAT معرفی شده که با استفاده از ترکیب استدلالهای مختلف (شامل Random Forest و k-NN) و یک مکانیسم نظارتی دقیق، مانع از نادیده گرفتن خطاهای احتمالی در فرآیندهای تصمیمگیری میشود. این دستاورد گامی مهم برای افزایش ایمنی سیستمهای هوشمند در حوزههای حساس مانند امنیت شبکه و سلامت است. 🛡️🤖
منبع: arXiv Machine Learning