آیا ایجنتهای کدنویس که این روزها به ابزارهای قدرتمندی تبدیل شدهاند، واقعاً امن هستند؟ یک مقاله تحلیلی جدید که ۳۹ تحقیق برتر سالهای ۲۰۲۳ تا ۲۰۲۶ را بررسی کرده، نشان میدهد که فضای «امنیتِ اجرای کد» در هوش مصنوعی به شدت پراکنده است.
نکات کلیدی این گزارش:
🔸 نبود استاندارد واحد: تحقیقات در زمینه ایزولهسازی، کنترل دسترسی و جلوگیری از حملات TOCTOU هنوز به صورت جزیرهای انجام میشود.
🔸 نرخ خطای بالا: سیستمهای فعلی در جلوگیری از حملات در ۶۹٪ تا ۹۸٪ موارد شکست میخورند!
🔸 چالشهای نادیده گرفته شده: اکثر روشهای دفاعی، خطاهای انسانی در تنظیم سیاستهای امنیتی را کاملاً نادیده میگیرند.
این مطالعه نشان میدهد که برای ساخت ایجنتهای واقعاً قابل اعتماد، نیاز به یک رویکرد یکپارچه و استاندارد برای امنیتِ زمان اجرا داریم.
منبع: arXiv AI