محققان در مطالعه جدیدی به سراغ بررسی امنیت مدلهای پیشرفته زبان عربی (مانند AraBERT و MARBERT) رفتهاند و نتایج جالبی به دست آمده است:
🔹 حملات خصمانه (Adversarial Attacks) میتوانند دقت این مدلها را به شدت کاهش دهند.
🔹 استفاده از «اعرابگذاری» (Diacritics) به تنهایی میتواند دقت برخی مدلها را تا ۹۲٪ کاهش دهد!
🔹 تغییرات در سطح جمله و ساختار کلمات نیز مدلها را فریب داده و عملکرد آنها را مختل میکند.
این تحقیق نشان میدهد که با وجود پیشرفتهای بزرگ در مدلهای زبانی، هنوز راه زیادی تا رسیدن به امنیت کامل در برابر حملات هوشمند باقی مانده است. البته «آموزش خصمانه» میتواند مدلها را مقاومتر کند، اما چالشهای ناشی از تغییرات حروف و کاراکترها همچنان پابرجاست.
امنیت هوش مصنوعی همیشه یکی از داغترین بحثهای دنیای تکنولوژی بوده و حالا میبینیم که چطور زبانهای مختلف با چالشهای منحصربهفردی در این مسیر روبرو هستند.
منبع: arXiv NLP