نظارت بر ایجنتهای هوش مصنوعی که کدنویسی میکنند، همیشه یک چالش بزرگ بوده؛ چرا که بدون محدودیت، این ایجنتها میتوانند ریسکهای امنیتی ایجاد کنند یا مقیاسپذیری پروژه را کاهش دهند.
محققان در مقالهای جدید پیشنهاد کردهاند که به جای استفاده از روشهای پیچیده نظارتی، از همان متدهای مدیریت تیمهای بزرگ مهندسی (مثل کنترل دسترسی، قوانین شبکه و ابزارهای سختگیرانه برای رعایت استانداردهای کد) استفاده کنیم.
نتایج جالب این تحقیق نشان میدهد که با اعمال این «بستر محدودکننده» (Substrate)، دقت یک مدل کوچک مثل Gemma 4 در شناسایی باگها و کدهای مخرب از حدود ۵۴٪ به بیش از ۹۰٪ افزایش یافته است. این یعنی میتوانیم بدون هزینههای سنگین توکن، با ابزارهای سادهتر، امنیت ایجنتهای کدنویس را به طرز چشمگیری بالا ببریم. 💻🤖
نویسی
منبع: arXiv AI
