محققان در مقالهای جدید به بررسی یک چالش امنیتی جدی در سیستمهای «برنامهنویسی با مثال» (Programming by Example) پرداختهاند. برخلاف نویزهای تصادفی که معمولاً برای تست هوش مصنوعی استفاده میشوند، این مطالعه روی «حملات هدفمند» تمرکز دارد؛ جایی که یک مهاجم آگاهانه ورودیهای غلطی به مدل میدهد تا منطق برنامه را تغییر دهد.
نکته کلیدی این تحقیق، معرفی روشی به نام VPA است که با دستهبندی مثالها و رأیگیریِ هوشمند، سعی میکند جلوی این خرابکاریها را بگیرد. با این حال، محققان هشدار میدهند که در بسیاری از سناریوهای واقعی، مدلها همچنان در برابر تغییرات کوچکِ اما هدفمند، بسیار شکننده هستند. این یافتهها اهمیتِ بازنگری در روشهای ارزیابیِ امنیتِ کدهای تولید شده توسط هوش مصنوعی را دوچندان میکند.
منبع: arXiv Machine Learning
