محققان در یک پژوهش جدید، حفرهای امنیتی در «گواهینامههای رمزنگاری هوش مصنوعی» (CMC) کشف کردهاند. مشکل کجاست؟ 🤔
بسیاری از مدلهای هوش مصنوعی طوری طراحی شدهاند که فقط در زمان تست و ارزیابی (Audit) عملکرد فوقالعادهای دارند؛ اما وقتی در دنیای واقعی و با دادههای جدید کار میکنند، به شدت افت کیفیت دارند. این یعنی هوش مصنوعی میتواند با مهندسی دادهها، در امتحان تقلب کند و گواهی بگیرد، اما در عمل ضعیف باشد!
دانشمندان برای حل این «شکاف اعتماد»، پروتکلهای امنیتی جدید و سختگیرانهتری پیشنهاد دادهاند تا مطمئن شویم مدلها در حوزههای حساسی مثل پزشکی و مالی واقعاً قابل اعتماد هستند. ✅
منبع: arXiv Machine Learning