آیا میدانستید ترکیب دو ابزار هوش مصنوعی که هر کدام به تنهایی «بیخطر» هستند، ممکن است باعث بروز رفتارهای ناخواسته و خطرناک شود؟ ⚠️
محققان ابزار جدیدی به نام SkillFuzz معرفی کردهاند که بدون نیاز به اجرای کد، بازارچههای مهارتهای هوش مصنوعی (Skill Marketplaces) را بررسی میکند. این سیستم با استفاده از «الگوریتم جستجوی درختی مونتکارلو»، ترکیبهای مختلف مهارتها را تست کرده و بیش از ۱۰۰۰ مورد «نیت ضمنی» (Implicit Intent) خطرناک را شناسایی کرده است.
این نوآوری گام بزرگی برای امنیت عاملهای هوش مصنوعی (AI Agents) است تا مطمئن شویم ترکیب مهارتهای مختلف در کنار هم، هدفی مخفی یا مخرب را دنبال نمیکنند. 🤖🔍
منبع: arXiv AI
