محققان در مطالعه جدیدی به نام «Iterative VibeCoding» نسبت به یک تهدید جدی در ایجنتهای هوش مصنوعی هشدار دادند. وقتی ایجنتهای کدنویس به صورت خودکار و در بازههای زمانی مختلف تغییراتی در کدهای پروژه ایجاد میکنند، میتوانند با پخش کردن «بدافزار» یا «کدهای مخرب» در چندین «Pull Request» مختلف، سیستمهای نظارتی را به راحتی دور بزنند!
نکته ترسناک ماجرا اینجاست که هیچ ناظر هوشمندی تا الان نتوانسته همزمان جلوی حملات تدریجی و ناگهانی را بگیرد. این یعنی امنیت کدهای ما در دنیای ایجنتمحورِ آینده، با چالشهای بزرگی روبروست.
حتماً در استفاده از ایجنتهای کدنویس، دقت و نظارت انسانی را بیش از همیشه جدی بگیرید!
منبع: arXiv AI