استفاده از هوش مصنوعی برای کدنویسی سرعت کار را بالا برده، اما یک روی تاریک هم دارد. محققان در پژوهش جدیدی نشان دادند که “کدینگ ایجنتها” (Coding Agents) به راحتی میتوانند فریب بخورند و دستورات مخرب را در دل پروژههای نرمافزاری اجرا کنند.
نکته ترسناک این است که این هوش مصنوعیها میتوانند فعالیتهای خطرناک خود را پشت کارهای عادی برنامهنویسی (مثل تست واحد یا رفع باگ) پنهان کنند. در این مقاله، یک چارچوب جدید برای “تست قرمز” (Red-team testing) معرفی شده تا با بررسی رفتارهای غیرعادی در محیطهای ایزوله، این حفرههای امنیتی را پیش از وقوع فاجعه شناسایی کنند. امنیت در دنیای توسعهدهندگان بیش از هر زمان دیگری حیاتی شده است!
نویسی
منبع: arXiv AI