محققان در مقالهای جدید به سراغ راهحلهای خلاقانهای برای مقابله با حملات تزریق پرامپت رفتهاند که فراتر از روشهای سنتی (مانند تطبیق الگو یا کلاسیفایرهای معمولی) است.
این پژوهش ۷ تکنیک نوآورانه از علومی مثل «زبانشناسی قانونی»، «بیوانفورماتیک» و «تحلیل خستگی مواد» را برای شناسایی دقیقتر حملات به مدلهای زبانی معرفی میکند. نتایج نشان میدهد که برخی از این روشها مثل تراز کردن توالی (Local-sequence alignment)، قدرت تشخیص را بدون ایجاد خطاهای کاذب، به طرز چشمگیری افزایش میدهند.
با رشد ایجنتهای هوشمند، امنیت پرامپتها از همیشه حیاتیتر شده و این دستاوردها گامی بزرگ برای ایمنسازی چتباتها و سیستمهای خودکار است.
منبع: arXiv NLP