🛡 آسیب‌پذیری جدید در ایجنت‌های هوش مصنوعی؛ مراقب «مهارت‌های مخرب» باشید! 🤖

⚠️ هشدار به محققان: چرا دقت مدل‌های شناسایی پهپاد گاهی «واقعی» نیست؟

محققان به تازگی کشف کرده‌اند که می‌توان از طریق «مهارت‌های بدون بار» (Payload-Less Skills)، زنجیره تأمین ایجنت‌های LLM را مورد حمله قرار داد. این یعنی مهاجمان بدون نیاز به تزریق کد مخرب مستقیم، می‌توانند با فریب دادن ایجنت‌ها در هنگام فراخوانی ابزارها، آن‌ها را به مسیرهای ناامن هدایت کنند.

این یافته اهمیت امنیت در معماری ایجنت‌محور را بیش از پیش نشان می‌دهد. اگر در حال توسعه پروژه‌هایی با ایجنت‌های خودمختار هستید، حتماً مراقب نحوه دسترسی و اجرای مهارت‌ها (Skills) باشید.

منبع: Hacker News LLM