با گسترش استفاده از پروتکل MCP برای اتصال ایجنتهای هوش مصنوعی به ابزارهای مختلف، چالشهای امنیتی جدیدی هم ظاهر شدهاند. مهاجمان حالا میتوانند با زنجیرهای از درخواستهای به ظاهر بیخطر، به سیستمها نفوذ کنند.
محققان برای مقابله با این تهدید، فریمورک «ChainWatch» را معرفی کردهاند. این سیستم با مدلسازی رفتارهای مشکوک در چندین مرحله (بر اساس مدل Kill Chain) و استفاده از مدلهای مارکوف پنهان (HMM)، میتواند حملات چندمرحلهای را که از چشم ابزارهای امنیتی سنتی دور میمانند، شناسایی و مسدود کند. گامی مهم برای ایمنسازی آینده هوش مصنوعی و اتصالات آن! 🤖🔐
منبع: arXiv AI