آیا میدانستید سیستمهای «بازیابی اطلاعات هوشمند» (RAG) در معرض نوعی حمله خاص به نام «حملات دانش-تقسیمشده» هستند؟ در این حملات، اسنادِ بهظاهر بیخطر وقتی ترکیب میشوند، نتایج گمراهکنندهای برای مدل تولید میکنند که فیلترهای معمولی قادر به تشخیص آن نیستند.
محققان بهتازگی راهکار جدیدی به نام «TopoGuard» معرفی کردهاند که با استفاده از «نظریه گراف»، روابط معنایی بین اسناد را تحلیل میکند. این ابزار با شناسایی ساختار (توپولوژی) مشکوک در اسناد بازیابی شده، حملات را با دقتی بسیار بالاتر و تاخیر زیر یک میلیثانیه شناسایی میکند. این یک پیشرفت بزرگ برای امنیت زیرساختهای هوش مصنوعی است! 🚀
منبع: arXiv NLP