محققان به تازگی کشف کردهاند که میتوان با تکنیکهای خاص، مکانیزمهای امنیتی مدلهای زبانی (LLM) را دور زد. این یعنی مهاجمان میتوانند با فریب دادن هوش مصنوعی، کدهای مخرب یا بدافزارها را از فیلترهای اسکن امنیتی عبور دهند، بدون اینکه سیستمهای هوشمند متوجه خطر شوند. این موضوع زنگ خطری جدی برای امنیت در فرآیندهای توسعه نرمافزار با کمک AI است. مراقب کدهایی که هوش مصنوعی تولید میکند یا بررسی میکند باشید! 🛡️💻
منبع: Hacker News LLM
