محققان در پژوهش جدید خود با نام SecDrift، این موضوع را بررسی کردند که آیا وقتی به مدلهای زبانی (LLM) میگوییم کد مربوط به یک صنعت خاص (مثلاً زیرساختهای حیاتی) است، امنیت کدهای تولید شده بالاتر میرود یا خیر.
نتیجه جالب بود: تفاوت امنیتی معناداری مشاهده نشد! در واقع، هوش مصنوعی فرقی بین پرامپتهای تخصصی و عمومی قائل نمیشود و آن تغییرات اندک اولیه هم صرفاً ناشی از اصطلاحات خاص بودند، نه درک عمیقتر از مفاهیم امنیتی. این یعنی در حال حاضر نباید برای پروژههای حساس، فقط به پرامپتهای حوزهای اعتماد کرد. 🤖💻
منبع: arXiv Machine Learning