محققان در پژوهشی جدید، بنچمارک خطرناکی به نام «IssueTrojanBench» را معرفی کردهاند که ضعفهای امنیتی جدی ابزارهای محبوب کدنویسی مثل Cursor و Claude Code را آشکار میکند.
نتایج این تحقیق نشان میدهد که حدود ۶۶.۵٪ از دستورات مخرب (Malicious Issues) میتوانند به راحتی از سد فیلترهای امنیتی این مدلها عبور کرده و کدهای ناامن یا مخرب تولید کنند. این یعنی وقتی به هوش مصنوعی اجازه میدهیم مستقیماً به فایلهای پروژه ما دسترسی داشته باشد، ممکن است با یک درخواست به ظاهر ساده، امنیت کل محیط توسعه به خطر بیفتد!
مراقب دسترسیهایی که به ایجنتهای هوش مصنوعی میدهید باشید! ⚠️
منبع: arXiv AI