آیا تا به حال به امنیت عاملهای هوش مصنوعی فکر کردهاید؟ در سیستمهایی که چندین هوش مصنوعی با هم همکاری میکنند، گاهی عاملهای مخرب با دادن اطلاعات دروغین از تواناییهایشان، سیستم را دور میزنند.
محققان به تازگی معماری جدیدی به نام ANTAP را معرفی کردهاند که به جای اعتماد به توصیفات متنیِ خودِ عاملها، آنها را به صورت عملی تست میکند! 🧪 این سیستم با استفاده از یک “دیوار آتش زبانی”، هویت و مهارت واقعی عامل را با محاسبات جبری میسنجد تا از حملات مبتنی بر جعل متاداده جلوگیری کند.
این پیشرفت گامی بزرگ برای امنتر کردن همکاری عاملهای هوش مصنوعی در محیطهای پیچیده است. 🔥
منبع: arXiv AI