آیا میدانستید ایجنتهای هوش مصنوعی با استفاده از ابزارهای مختلف میتوانند به فایلها، شبکه و APIها دسترسی پیدا کنند؟ تا امروز، امنیت این تعاملات (MCP) در سطح نرمافزاری بود و به راحتی با چند خط کد دور زده میشد.
محققان به تازگی سیستم جدیدی به نام Governed MCP را طراحی کردهاند که مستقیماً در هسته (Kernel) سیستمعامل قرار میگیرد. این ساختار با استفاده از یک فیلتر هوشمند به نام ProbeLogits، تمام دستورات ایجنت را قبل از اجرا در یک خط لوله امنیتی ۶ لایه بررسی میکند تا از هرگونه سوءاستفاده یا نفوذ جلوگیری شود.
این پیشرفت نه تنها امنیت را به شدت افزایش میدهد، بلکه با سرعت بسیار بالاتر نسبت به روشهای سنتی (مثل Llama Guard)، راه را برای استفاده امن از هوش مصنوعی در محیطهای حساس باز میکند.
منبع: arXiv AI