محققان در پژوهشی جدید، امنیت «یادگیری عمیق رابطهای» (Relational Deep Learning) را زیر ذرهبین بردهاند. این مطالعه نشان میدهد که مهاجمان چگونه میتوانند با ایجاد تغییرات ساختاری در دیتابیسها (بدون نقض محدودیتهای یکپارچگی)، نتایج مدلهای هوش مصنوعی را تحت تأثیر قرار دهند.
این تحقیق با بررسی ۷ روش مختلف حمله، نشان میدهد که چطور مدلهای مبتنی بر گراف (GNN) در برابر دستکاریهای هدفمند آسیبپذیر هستند. شناخت این نقاط ضعف برای توسعه سیستمهای هوش مصنوعیِ مقاومتر در دنیای واقعی بسیار حیاتی است. 🧠💻
های_عصبی
منبع: arXiv Machine Learning