امروزه بسیاری از سیستمهای بررسی کد (Code Review) از مدلهای زبانی استفاده میکنند، اما یک تحقیق جدید نشان داده که این «ایجنتهای هوشمند» به راحتی فریب میخورند!
محققان با معرفی بنچمارک جدیدی به نام SEVRA-BENCH، ثابت کردند که وقتی مهاجمان از تکنیکهای «مهندسی اجتماعی» در درخواستهای خود استفاده میکنند، ایجنتهای هوش مصنوعی ممکن است کدهای دارای حفرههای امنیتی را به راحتی تایید و وارد مخازن نرمافزاری کنند. این مطالعه نشان میدهد که مهارتِ متقاعدسازی در متنِ درخواست (PR)، میتواند هوش مصنوعی را در تشخیص امنیت کد به خطا بیندازد.
این یک هشدار جدی برای تیمهای فنی است که قصد دارند فرایند بررسی کدهای حساس خود را تماماً به هوش مصنوعی بسپارند. ⚠️
منبع: arXiv AI