محققان در یک پژوهش امنیتی جدید، نوعی آسیبپذیری نگرانکننده به نام «حملات حالت-خود» (Self-State Attacks) را شناسایی کردهاند. در این روش، مهاجمان میتوانند با «مسموم کردن حافظه» ایجنتهای هوش مصنوعی، عملکرد آنها را مختل کرده یا دادههای مخربی را در حافظه بلندمدت آنها تزریق کنند. این یعنی ایجنتهای هوشمند که قرار است به ما کمک کنند، ممکن است ناخواسته رفتارهای غیرمنتظرهای از خود نشان دهند.
امنیت در دنیای ایجنتهای خودمختار هر روز اهمیت بیشتری پیدا میکند؛ نظر شما چیست؟ آیا هوش مصنوعی میتواند راهی برای دفاع در برابر چنین حملاتی پیدا کند؟
منبع: Hacker News AI