محققان در مقاله جدیدی به بررسی ضعف روشهای فعلی مقابله با «تزریق پرامپت» (Prompt Injection) در محیطهای سازمانی پرداختهاند. یافتهها نشان میدهد روشهای معمول روی اسناد دنیای واقعی (مثل اسناد حقوقی یا پزشکی) کارایی لازم را ندارند.
به همین منظور سیستم جدیدی به نام PARSE معرفی شده که با استفاده از شناسایی هوشمندِ جملاتِ حساس و حفظ ساختارِ واقعیِ اسناد، امنیت ایجنتها را بدون افت کیفیت پاسخدهی به شدت بالا میبرد. این یعنی در آینده شاهد ایجنتهایی خواهیم بود که در محیطهای کاری با امنیت و دقت بسیار بیشتری فعالیت میکنند. 🚀
منبع: arXiv NLP