شاید شما هم از دستیارهای برنامهنویسی هوش مصنوعی استفاده میکنید، اما یک پژوهش جدید نشان میدهد که این مدلها در تولید کدهای امنیتی (مثل مدیریت رمز عبور و احراز هویت) بهتنهایی چندان قابل اعتماد نیستند! ⚠️
طبق این تحقیق، استفاده از پرامپتهای ساده یا حتی دستورالعملهای استاندارد NIST به تنهایی کافی نیست و مدلها در برابر حملات سایبری ضعف دارند. محققان پیشنهاد میکنند که برای داشتن خروجی امن، باید از تکنیک «بازپرامپتنویسی تکرارشونده» (Iterative Reprompting) و حلقههای خودارزیابی استفاده کرد.
نتیجه اخلاقی: در پروژههای حساس، هرگز به خروجی خام هوش مصنوعی اعتماد نکنید و حتماً امنیت کدها را به صورت دستی و سیستماتیک بررسی کنید. 🔐
منبع: arXiv Machine Learning