محققان در یک پژوهش جدید روی مدلهای زبانی (LLMs)، متوجه نکته نگرانکنندهای شدند: بیش از ۵۶٪ کدهایی که توسط هوش مصنوعی در سناریوهای واقعی نوشته میشوند، آسیبپذیریهای امنیتی دارند! ⚠️
مشکل اصلی اینجاست که مدلها اغلب در درک نیازهای مبهم توسعهدهنده یا شرایط عملیاتی پیچیده دچار خطا میشوند. اما خبر خوب این است که محققان با استفاده از تکنیک «پرامپتنویسی آگاهانه از امنیت» (Security-aware prompting) موفق شدند تا ۴۵٪ این ریسکها را کاهش دهند. 🚀
این تحقیق نشان میدهد که ابزارهای کدنویسی هوش مصنوعی هنوز جای کار زیادی دارند و کاربران نباید بیمحابا به خروجیهای آنها اعتماد کنند.
نویسی
منبع: arXiv AI